You are currently browsing the tag archive for the ‘rischi esistenziali’ tag.
Un sole di gomma fu squassato, e tramontò; e un nulla nero-sangue si mise a far girare un sistema di cellule intrecciate con cellule intrecciate con cellule intrecciate dentro un unico stelo. E spaventosamente nitida, sullo sfondo di tenebra, una candida fonte zampillò.
Vladimir Nabokov, Fuoco pallido, traduzione di Franca Pece e Anna Raffetto per l’edizione italiana Adelphi (2002)
Finalmente la mia copia del balenottero è venuta a spiaggiarsi qui di fianco e quindi quale occasione migliore per parlarvi un po’ del mio racconto? Il senso del post, come avrete capito, è quanto di più autoreferenziale si possa immaginare. Se decidete di andare avanti, sapete cosa aspettarvi.
1. Riferimenti letterari
Come fa giustamente notare il curatore del volume Franco Forte (che ringrazio oltre che per aver messo in luce il modello, anche per avermi dato la possibilità di comparire ancora una volta in un libro con diverse autrici e autori per cui non ho mai fatto mistero di nutrire da lettore – e a volte anche, nel mio piccolo, da curatore – un apprezzamento incondizionato), sul mio racconto aleggia l’ombra di Sergio “Alan D.” Altieri. Alla fine i conti tornano, no?
Anche lui forse avrebbe usato per questo racconto l’etichetta sci-fi action, che non so se merito, però mi avrebbe fatto senz’altro piacere.
Accanto a lui, altri riferimenti al mio personale pantheon letterario che fanno capolino tra le pagine sono meno scontati per un racconto di fantascienza quale Al servizio di un oscuro potere è, e in particolare penso a H. P. Lovecraft, Thomas Ligotti e Breece D’J Pancake.
2. Suggestioni e ispirazioni
Lo spunto di partenza, la scintilla che ha innescato la suggestione da cui è scaturito il racconto, è una sequenza di fotogrammi di Bologna, una mattina presto d’inverno di due o tre anni fa. In superficie la città deserta, spazzata da un vento gelido che strappava pioggia ghiacciata a un cielo di marmo. Nel sottosuolo, il labirinto multi-livello della stazione dell’alta velocità, con le sue lunghe passerelle di vetro sospese sui binari e immerse in un’atmosfera ovattata, altrettanto rarefatta, e le voci dei passeggeri in attesa che si perdono in lontananza, soffocate dai volumi delle navate sotterranee.
La cordiale voce registrata del sistema di annunci sonori diffusi dagli altoparlanti è stata da ispirazione per Mezereth. Con la complicità di un umore appena più torvo del solito, non è stato difficile delineare invece il personaggio di Maksim Bogdanov. Il nome è un omaggio ad Aleksandr Bogdanov, sulla cui figura è incentrato Proletkult dei Wu Ming, ma anche ad Arkady Bogdanov, uno dei personaggi più intriganti della Trilogia Marziana di Kim Stanley Robinson.
Osservatorio ALMA, Cile.
3. Storie dentro storie dentro altre storie
Keira è antecedente a entrambi, essendo ormai anni che medito di raccontarne la storia. Una storia che inizia in una città devastata dalla guerra, subito dopo il crollo della civiltà, e si conclude a bordo di un’astronave interstellare che si lascia alle spalle un sistema solare irreversibilmente sconvolto. In mezzo ci sono un annuncio del SETI a lungo atteso, ma che forse mai avremmo voluto sentirci dare sul serio, e il Programma Majestic. Di tutto questo si fa menzione in Al servizio di un oscuro potere, che va così a coprire con una prima tessera il mosaico di una storia più ampia e più antica. Il resto, prima o poi, lo scriverò.
Dimenticavo. Il personaggio che fa da contraltare a Maksim nella ricerca di Keira per conto di Mezereth si chiama… Irene Adler. Ovviamente, non quella Irene Adler.
4. World-building
Nel mondo post-apocalittico in cui vivono Maksim e Irene Adler, la società e le sue strutture di potere sono state commissariate dalle intelligenze artificiali. Amorevoli, altruistiche IA come Mezereth hanno preso in custodia il genere umano per il bene della civiltà. E gli umani, per lo meno quelli sopravvissuti all’ultima guerra totale, sono stati incasellati, per il loro bene, in ruoli predefiniti in virtù della loro classificazione in sedici tipi psicologici, che riprende lo schema messo a punto dalle psicologhe Myers e Briggs, per altro madre (la seconda) e figlia (la prima), nel secondo dopoguerra (per scoprire il vostro tipo MBTI, potete sottoporvi a test più o meno accurati, anche on line se ne trovano di diversi, tra cui questo in italiano).
Nel racconto mi diverto a giocare, come si sarà capito poco sopra, con i rischi esistenziali di Nick Bostrom, provando ad azzardare una risoluzione “artificiale” del dilemma del prigioniero, che porta a pagare un prezzo alto ma accettabile per evitare la distruzione assicurata. Questo dilemma, nel racconto, è legato al paradosso di Fermi, e a una possibile spiegazione che è stata già affrontata con eccellenti risultati da autori come Stephen Baxter, Alastair Reynolds e Liu Cixin.
Credit: Babylon 5.
5. Altri mondi, altre storie
Il nome della città in cui si apre e finisce il racconto, al-Hastur, è una citazione abbastanza trasparente di Robert W. Chambers, i cui racconti del ciclo del Re in Giallo sono andati a costituire il nucleo di un universo letterario di rimandi e citazioni che si è avvalso nel corso del tempo dei contributi, tra gli altri, di H. P. Lovecraft, sublimando nell’immaginario popolare anche grazie al lavoro di Nic Pizzolatto sulla prima stagione di True Detective.
In effetti, con tutti questi link, sembra che non abbia dovuto fare altro che mettere un po’ di ordine nella cronologia del blog. Ma è stato un po’ più complessa di così.
Nella descrizione di al-Hastur come di una città mausoleo, uno spettrale sepolcro imbiancato, riverberano le sensazioni di Cuore di tenebra di Joseph Conrad, in cui si ritrova una descrizione di Bruxelles che gli permette di materializzare una critica all’imperialismo colonialista europeo (“Mi ritrovai nella città sepolcrale risentito alla vista di individui che si affrettavano nelle strade per sgraffignare un po’ di denaro l’uno all’altro, […] per sognare i loro sogni sciocchi e insignificanti. Calpestavano i miei pensieri. Erano intrusi e la conoscenza che avevano della vita mi appariva un’irritante finzione, perché mi sentivo così sicuro che non potessero certo sapere le cose che sapevo io“).
Ho aggiunto il prefisso al un po’ per un tocco di esotismo, un po’ per caricarlo di un vezzo demoniaco, e poi perché mi sono detto: con tutti questi riferimenti, perché non citare anche Jack Vance?
Credit: Carcosa, by Irrealist.
6. E il titolo?
Ok, adesso l’ultima e poi evito di importunarvi oltre. Il titolo, vi starete chiedendo, o forse no, ma ormai avrete capito che ho comunque intenzione di dirvelo.
Al servizio di uno strano potere è il titolo, preso in prestito da uno dei suoi racconti, di un’antologia di Samuel R. Delany pubblicata in Italia in un numero monografico di Robot (il 35, per l’esattezza, nel febbraio del 1979). Robot è la mia rivista preferita, Delany è uno degli autori di cui non potrei fare a meno (e tra i primi che citerei se mi venisse chiesto il nome di uno scrittore che tutti dovrebbero conoscere) e questa antologia è uno scrigno di pietre preziose (così parafrasiamo pure il suo titolo più bello).
Al servizio di un oscuro potere esiste anche grazie a Robot e a Delany. Ed è un’influenza che va al di là del titolo, ma che il titolo mette da subito in chiaro.
Buona lettura!
Nel mondo i casi documentati di COVID-19 hanno superato le 800.000 unità, di cui 600.000 circa risultano ancora in corso. Gli USA hanno ormai doppiato la Cina, toccando quota 164.435 (contro 81.518). Le vittime tra i cittadini statunitensi salgono a 3.175 (contro 3.305), e il dottor Anthony Fauci, immunologo a capo del National Institute of Allergy and Infectious Diseases e consigliere del presidente Donald Trump per l’emergenza coronavirus, per tranquillizzare la popolazione di fronte a scenari che danno come possibili un milione di decessi, ha parlato di una forbice tra le cento e le duecentomila vittime nel paese. Trump, che nemmeno la gravità della crisi ha saputo richiamare alla realtà, appena qualche giorno dopo aver millantato una riapertura degli esercizi commerciali e delle fabbriche entro Pasqua, ha annunciato come se niente fosse che sarà un successo se riusciranno a stare sotto le centomila vittime: centomila decessi, centomila cittadini americani spazzati via da un virus che avrebbe dovuto sparire «per miracolo». E i sondaggi lo ripagano con il massimo del gradimento da parte degli elettori da tre anni a questa parte…
I morti nel mondo sono 40.633. In Spagna le cose stanno andando anche peggio che in Italia: 8.189 morti a fronte di 94.417 contagiati; a parità di giorni decorsi dal primo caso, l’Italia aveva 64mila casi e meno di 7mila vittime. Nelle ultime 24 ore il paese ha registrato 9.222 nuovi contagi; il picco italiano è stato di 6.557 contagi (il 21 marzo). Madrid si aspetta un impatto sul PIL pari al 4% a causa dell’ibernazione, come viene chiamato in Spagna il lockdown. Sono valori analoghi a quelli che circolavano in Italia un paio di settimane fa, prima che ulteriori valutazioni aggravassero le stime fino e oltre il 10% del PIL.
In Francia, la scrittrice Annie Ernaux (autrice, tra gli altri, di volumi di autofiction, a metà strada tra autobiografia, sociologia e prosa narrativa, come L’evento, Gli anni e L’altra figlia, tutti pubblicati in Italia da L’Orma Editore) ha rivolto una lettera al vetriolo al presidente Emmanuel Macron, additandone l’inadeguatezza nel gestire il paese e nell’affrontare la crisi: esattamente i lavoratori dei settori pubblici (scuola, sanità, energia, poste, ferrovie), bersaglio negli ultimi anni di riforme e tagli che hanno portato anche a violenti scioperi, si ritrovano adesso a reggere i servizi essenziali di un paese bloccato dal coronavirus. Una denuncia autorevole, che si aggiunge alle già numerose prese di posizione contro un sistema che, in Francia come in Italia e nel resto del mondo, sembra incapace di pensare all’emergenza in termini di costi umani, ma non guarda ad altro che agli indicatori economici. Un commento in italiano alla lettera può essere letto su Fanpage.
La visione mercatocentrica porta a storture che dovrebbero farci drizzare le antenne: non sembra che sia così, invece, se proprio nel cuore dell’Europa il parlamento di Budapest guidato da Fidesz, il partito ultranazionalista del primo ministro Viktor Orbán, ha approvato proprio ieri una riforma che conferisce al premier la facoltà di emanare leggi in sostituzione del parlamento stesso senza limiti di tempo, giustificando la decisione con la necessità di contenere la crisi dovuta al coronavirus. Poco più di un pretesto, per le opposizioni e gli osservatori internazionali, che hanno parlato di deriva autoritaria: con questa riforma, secondo l’organizzazione Human Rights Watch, l’Ungheria completa la sua trasformazione in una «dittatura in piena regola». Sono i pieni poteri che qualcuno invocava anche qui da noi, tanto per capirci.
Per fortuna ci pensano l’Albania e il Portogallo a illuminare con un po’ di speranza l’acciaccato vecchio continente. Tirana ha inviato una delegazione di trenta medici per coadiuvare il personale sanitario italiano impegnato nelle difficili operazioni di contenimento del contagio in Lombardia. Il discorso del premier socialista Edi Rama ha scosso molte coscienze: «Non siamo privi di memoria e non ci possiamo permettere di non dimostrare all’Italia che gli albanesi e l’Albania non abbandonano mai l’amico in difficoltà. Questa è una guerra dove nessuno può vincere da solo. [… ] Oggi noi siamo tutti italiani e l’Italia la deve vincere e la vincerà questa guerra, anche per noi e anche per l’Europa e il mondo intero». Per una volta il lessico bellico non sembra fuori luogo, anche perché accompagna parole di solidarietà, di mutuo soccorso e di amicizia, contro un nemico che non è umano e, come sottolineava Ernaux, «non è un nostro simile, non ha volontà di nuocere, è ignaro di frontiere e differenze sociali». Una bella lezione per il mondo intero, così come quella del governo socialista lusitano, che ha riconosciuto il permesso di soggiorno ai richiedenti, con una sanatoria che permetterà loro di accedere ai servizi pubblici e alle cure in caso di necessità. «In questa emergenza i diritti dei migranti devono essere garantiti» ha dichiarato Claudia Veloso, portavoce del ministero degli Interni.
Alcuni tempo fa sostenevano che i politici sono tutti uguali, che destra e sinistra si equivalgono. Col cazzo!, se permettete.
In Italia il mese di marzo si conclude con 105.792 persone contagiate dal coronavirus SARS-CoV-2 (+4.053 rispetto a ieri, quando abbiamo superato quota 100.000). I casi attivi sono 77.635 (+2.107 rispetto a ieri). Di fatto, stiamo rispettando lo scenario E2 (che prevedeva a questo punto rispettivamente 105.418 casi totali e 77.700 casi positivi in corso).
La variazione giornaliera prosegue nel trend in discesa e arriva al 4%: finché non arriverà a 0 continueranno a esserci nuovi casi, quindi consideriamo che la terza fase dell’epidemia, dopo l’esplosione e il picco, diventerà uno stillicidio di numeri sempre più piccoli, prima alcune centinaia, poi poche, poi nell’ordine delle decine di nuovi casi al giorno che, come già capitato in Cina e Corea del Sud, si protrarrà per settimane e con le misure di contenimento in atto potrebbe rivelarsi un pungolo continuo per i nostri nervi.
Il modello E2 sembra funzionare bene finora perché il conteggio dei decessi e dei guariti, pur non rispettando esattamente l’andamento atteso (risulta infatti sottostimato nel primo caso, sovrastimato nel secondo), come somma continua a mantenersi allineato alle previsioni (28.157 tra vittime e guariti rispetto alla stima attesa di 27.719).
Ogni mancata previsione sulle guarigioni da parte del modello, a questo punto, inizia a essere imputabile alla mia sottostima dei decessi. Appare purtroppo certo che la mia soglia di 12.666 vittime sarà presto superata, quasi sicuramente già domani: le 837 vittime registrate oggi hanno infatti portato il computo totale dei decessi a 12.428. Nella scala logaritmica qui in alto, lo scalino rosso andrà quindi alzato plausibilmente di diverse migliaia di casi fatali.
Ha senso? Nello scenario E2 il tasso di mortalità considerato era del 9% sul numero totale dei casi, ma il tasso “reale” (virgolette d’obbligo, essendo il valore totale dei casi al denominatore tutt’altro che una misura certa dei contagi realmente avvenuti dall’inizio dell’epidemia) cresce ininterrottamente, a meno di fluttuazioni giornaliere, da più di un mese: dal 2,4% del 28 febbraio siamo arrivati all’11,7% del 31 marzo. E qui bisogna aprire una parentesi lunghetta.
Sui problemi dei numeri che stiamo esaminando ci siamo già soffermati. Il numero reale dei decessi, come dimostrano le registrazioni anagrafiche delle province lombarde confrontate con i dati degli anni scorsi, è sicuramente superiore rispetto al valore comunicato dalla Protezione Civile. Sta facendo molto discutere in questi giorni un rapporto dell’Imperial College di Londra, elaborato in collaborazione con l’Organizzazione Mondiale della Sanità per valutare l’efficacia delle misure di contenimento adottate in 11 paesi europei. Secondo le stime dello studio, la popolazione realmente infettata in Italia sarebbe compresa tra il 3,2% e il 26% della popolazione totale: da un minimo di 2 a un massimo di 16 milioni di italiani avrebbero già contratto il virus, e la percentuale di asintomatici e paucisintomatici sarebbe quindi tra uno e due ordini di grandezza superiore alle centinaia di migliaia finora stimati. La mortalità riscontrata andrebbe quindi rapportata a questi valori, venendo ricondotta sotto la soglia dell’1% dei casi totali. Gli autori stessi dello studio invitano a considerare con prudenza questi valori: lo scopo dell’analisi è infatti valutare l’effetto delle misure restrittive, che a loro avviso avrebbero già salvato tra le 13.000 e le 84.000 vite solo in Italia, e centinaia di migliaia in Europa.
Tuttavia non possiamo evitare di osservare che il numero di ricoveri in terapia intensiva da alcuni giorni sembra essersi stabilizzato appena al di sopra della soglia di sostenibilità del sistema che avevamo preso in considerazione la settimana scorsa: 4.023 contro una mia stima di 3.755 (e un totale di posti stimati in 6.300, con un tasso di saturazione del 64%).
Dopo essersi mantenuto tra circa 100 e 200 nuovi ricoveri al giorno per quasi tre settimane (con una punta di 241 il 18 marzo), il numero di trattamenti in terapia intensiva da tre giorni si è ridotto considerevolmente: 50 il 29/3, 75 ieri e 42 oggi. In percentuale sul numero totale dei casi attivi, dal 10,9% i ricoveri in terapia intensiva sono scesi a 5,2%, in un trend continuo.
La domanda che m’insegue da qualche giorno, guardando ai dati come a una black box e considerando che metà della regioni italiane sono ormai a un tasso di occupazione superiore al 66% dei posti in terapia intensiva (i due terzi dei posti disponibili, immaginando di lasciare una riserva di un terzo per i casi estranei all’infezione da coronavirus), è se non abbiamo ormai raggiunto la reale capacità di assorbimento del sistema sanitario nazionale, almeno nelle regioni finora più interessate. Questo potrebbe rendere conto, con il basso numero di test effettuati, del tasso di mortalità sproporzionato registrato in Italia.
Prima di chiudere, un primo sguardo al futuro. Mi fa piacere ritrovarmi a non essere l’unico a interrogarsi sugli orizzonti che ci aspettano. Una riflessione interessante è quella di Luca Sofri, il direttore del Post (che con Internazionale continua a essere una delle migliori fonti di informazione in lingua italiana sulla pandemia e non solo).
Il direttore dell’Italian Institute for the Future Roberto Paura firma invece questo editoriale per Futuri che è anche un manifesto e, se nei dettagli può essere più condivisibile per alcuni di noi e meno per altri, nell’orizzonte che si sforza di abbracciare e nell’approccio che decide di adottare è quanto di più lucido e consapevole mi sia capitato di leggere dall’inizio della pandemia.
Molti di noi stanno maturando delle aspettative verso il dopo che, in un senso o nell’altro, finiranno per essere deluse almeno in parte: per la forza della resistenza al cambiamento che pervade tutti i settori produttivi della nostra società e per il contesto ambientale che non potremo più concederci il lusso di ignorare.
Come ci fa notare Roberto, un patto transgenerazionale, una presa di coscienza del nostro ruolo nel mondo (e nei processi produttivi e nelle dinamiche sociali), una maggiore responsabilità verso l’ecosistema e un uso della tecnologia che pieghi l’innovazione a questa responsabilità sono le condizioni da cui non possiamo prescindere per proiettarci oltre l’ostacolo del rischio esistenziale, per dirla con Nick Bostrom, in cui ci siamo imbattuti.
Ma per cambiare davvero le cose, dovremo uscire in maggior parte “arricchiti” da questa esperienza. Arricchiti nel senso di formati, naturalmente. Viviamo quindi la quarantena (l’isolamento, il contenimento, l’ibernazione), le restrizioni, la rinuncia a molte libertà (ma per fortuna ancora non tutte), come banco di prova per il futuro. Da come ne usciremo, sarà facile capire quale grado di fiducia nutrire verso le nostre risorse alla successiva catastrofe che prima o poi senz’altro si presenterà.
Come un pioniere, l’uomo sposta i propri confini sempre più in là, si allontana sempre più da se stesso; si “trascende” sempre di più – e anche se non s’invola in una regione sovrannaturale, tuttavia, poiché varca i limiti congeniti della sua natura, passa in una sfera che non è più naturale, nel regno dell’ibrido e dell’artificiale.
Günther Anders, L’uomo è antiquato
Metto il punto finale a un racconto a cui ho lavorato per un mese in cui sono riuscito a far confluire molti dei miei interessi degli ultimi anni: l’ascesa di una superintelligenza forte in grado di prendere il controllo sulla storia dell’uomo, il contatto con civiltà tecnologiche avanzate extraterrestri, l’ingegnerizzazione dell’umanità in chiave postumana, le pulsioni autodistruttive insite nella nostra natura, il pessimismo cosmico di Lovecraft e Ligotti. In diecimila parole.
Il sabato ideale.
Arte e intelligenza artificiale rappresentano un connubio affascinante al quale io stesso non ho saputo resistere,
mettendolo al centro di uno dei miei ultimi racconti. In Maja, che potete leggere su Propulsioni d’improbabilità (curato da Giorgio Majer Gatti per Zona 42), l’attenzione si focalizza sulla musica e sull’ipotesi che il talento innato e le basi della creatività possano rappresentare un fertile terreno d’incontro e di dialogo tra intelligenze «naturali» e artificiali, sviluppando esiti che al momento possiamo solo vagamente immaginare.
Dopotutto, è da alcuni anni che il celebre test di Turing, da sempre portato a esempio pratico come campo di prova per valutare un costrutto (aspirante o presunto) candidato a essere riconosciuto come IA, raccoglie un numero crescente di critiche sulla sua effettiva validità pratica, tra le altre cose anche per il suo ispirarsi all’altrettanto famoso imitation game (da cui anche il titolo dell’interessante biopic di Morten Tyldum, tratto dalla biografia di Andrew Hodges, in cui il Benedict Cumberbatch intrepreta il ruolo del grande matematico e criptoanalista britannico). Il punto non è tanto una sottigliezza, perché di fronte agli adeguamenti normativi richiesti dall’introduzione di sistemi automatici in grado di prendere scelte con conseguenze reali e quindi non prive d’impatto per l’ecosistema «umano» in cui agiscono (come potrebbero essere i veicoli a guida autonoma, ma anche IA preposte al controllo del traffico aereo, per non parlare delle eventuali applicazioni militari) le questioni etiche assumono una rilevanza centrale, e quindi non il discrimine per l’attribuzione di una responsabilità non può basarsi sulla pur sofisticata capacità di “ingannare” un interlocutore umano.
Già nel 2008 alcuni esperimenti condotti da Kevin Warwick all’Università di Reading (UK) avevano destato scalpore, se non altro per alcuni esiti quanto meno inquietanti (Think deeply about mysterious dubjects) delle conversazioni con le candidate IA.
Negli ultimi tempi, si sono invece intensificate le notizie sul ruolo possibile delle IA nella costruzione di artefatti video, che spaziano dall’esperimento cinematografico con il corto Sunspiring pensato e scritto da Benjamin, una rete neurale ricorsiva addestrata con una collezione di film di fantascienza, alle frontiere della post-verità con le aberranti prospettive della tecnologia deepfake. Evoluzioni che rendono ancora più concreta e urgente la necessità di pensare a un superamento del test di Turing, magari evolvendolo in una direzione analoga a quella che non facevo altro che estrapolare in Maja pensando a un ipotetico test di Lovelace (ovviamente da Ada, figlia di Lord Byron e prima programmatrice informatica della storia, convinta sostenitrice dell’incapacità delle macchine di sviluppare uno spirito creativo – o banalmente anche solo sorprendere i loro programmatori).
Immagine di Luca Zamoc (fonte: Il Trascabile).
È notizia di questi giorni che i ricercatori di OpenAI, l’organizzazione non profit fondata a San Francisco nel 2015 da Sam Altman e Elon Musk, e finanziata tra gli altri da Amazon e dall’indiana Infosys (un colosso della consulenza IT con oltre 113.000 dipendenti, uffici in 22 paesi, centri di ricerca sparsi su quattro continenti e proprietaria nel campus di Mysore della più grande università d’impresa al mondo), con lo scopo di gestire i rischi esistenziali connessi alla ricerca nel campo dell’intelligenza artificiale e promuovere lo sviluppo di una Friendly AI (una IA benevola), hanno messo a punto un’intelligenza artificiale tanto avanzata da non poter essere rilasciata pubblicamente. Il modello denominato GPT2 risulterebbe infatti talmente efficace nell’ambito per cui è stato sviluppato, ovvero la scrittura di testi deepfake in grado di ingannare un lettore umano, da rappresentare un rischio concreto.
Tra le possibili applicazioni distorte del loro costrutto, i creatori hanno da subito annoverato la generazione di recensioni fake per orientare il gusto dei consumatori e la diffusione di notizie false, la generazione di spam e di fishing. IA come GPT2 potrebbero persino comportarsi come un utente reale, oppure sostituirsi a profili hackerati impersonando versioni alterate ad hoc dell’utente originale, per i motivi più disparati: trarre in inganno altri utenti, per esempio; oppure screditare gli utenti originali, diffondere false informazioni, etc. Inoltre almeno un caso recente ha sicuramente fatto accendere un ulteriore campanello d’allarme nei laboratori di OpenAI: la possibile influenza di un bias ultraconservatore, bigotto e reazionario nelle risposte di GPT2 in caso di addestramento con testi ricavati dalla rete (sorte già toccata al chatbot di Microsoft addestrato per interagire su Twitter).
Questa volta, insomma, ci è andata bene. Ma se la tecnologia ha ormai raggiunto questo livello, non possiamo escludere che altrove qualcuno con meno scrupoli possa a breve mettere (o aver già messo) a punto sistemi altrettanto validi, adottandoli per le applicazioni più subdole. Per quello che ne sapete, non potrebbe questo stesso blog essere mandato avanti da una IA dagli scopi ancora imperscrutabili? Pensate a certe pagine e profili attivi sui social network, a certe piattaforme politiche, a certe dinamiche in atto nei motori di ricerca e nella promozione di beni e prodotti. Il futuro potrebbe essere già davanti ai nostri occhi, e sfuggirci solo perché non abbiamo ancora metabolizzato le categorie giuste per riconoscerlo.
Questa recensione di Ex Machina, film scritto e diretto da Alex Garland (dal 30 luglio anche in Italia) che s’inserisce nel filone transumanista recentemente esplorato da Hollywood già in diversi titoli – con risultati alterni – da Lei a Transcendence, richiama l’attenzione su una serie di riferimenti che già mi sono serviti come punti cardinali in un paio di uscite pubbliche. Dalla riflessione era per altro scaturito questo articolo per Quaderni d’Altri Tempi, e a Bellaria abbiamo colto l’occasione con Zoon e Kremo per imbastire un panel a 360° sui rischi esistenziali, proprio a partire dal clamore suscitato dagli avvertimenti lanciati da luminari del calibro di Stephen Hawking (che non ha certo bisogno di presentazioni da queste parti) o Elon Musk (l’imprenditore sudafricano-americano fondatore di start-up di successo, da PayPal a Tesla Motors a SpaceX). E proprio i loro nomi, insieme a quello di Nick Bostrom, sono quelli che richiamavamo in quella sede, a partire dal dibattito incentrato sull’evoluzione delle intelligenze artificiali simil o super umane.
Com’è stato detto, se mai risulterà possibile una superintelligenza artificiale sarà anche l’ultima invenzione dell’uomo. Il progresso è sempre guidato dalla civiltà più evoluta. E in presenza di una intelligenza artificiale confrontabile o già superiore all’intelligenza umana, capace di migliorarsi a un ritmo per noi vertiginoso e inimmaginabile, l’umanità dovrà rassegnarsi a passare il testimone. Risulta quindi plausibile che a quel punto il timone del progresso passi “nelle mani” delle IA, che si sostituiranno in tutto o in parte a noi nel ruolo di motore dell’evoluzione tecnologica, scientifica e culturale sulla Terra.
In uno dei suoi articoli sempre estremamente stimolanti, il divulgatore Caleb Scharf, astrobiologo alla Columbia University, ha provato addirittura a mettere in relazione lo sviluppo delle IA con il paradosso di Fermi, passando per il Grande Filtro: è un’idea interessante, sennonché mi sembra fondarsi sull’assunzione un po’ troppo restrittiva che ogni forma artificiale di intelligenza contenga il germe intrinseco dell’autodistruzione.
D’altronde, se come esseri umani ci stiamo interessando così tanto a un argomento che fino a non molto tempo fa sembrava poterci appassionare solo in forma di fiction (e in effetti credo che negli ultimi trent’anni sia stata scritta e filmata ben poca fantascienza capace di prescindere da un qualche impiego futuro – o rischio connaturato all’uso – delle IA), non è solo per l’effetto perturbante della difformità implicita nell’IA, del suo essere qualcosa di altro da noi. Le implicazioni dell’eventuale avvento dell’IA sono intrinsecamente imprevedibili: potremmo trovarci davanti agli scenari più diversi, da una vera e propria esplosione di intelligenza alla riprogrammazione stessa della materia disponibile sulla Terra e nei suoi paraggi (tutta la materia, esseri viventi inclusi) in computronium, fino a esiti ancora più inquietanti come l’inferno a misura d’uomo teorizzato nel cosiddetto rompicapo del Basilisco di Roko. Si va quindi dal caso migliore dell’umanità vittima collaterale dello sviluppo dell’IA, a quello peggiore dell’umanità completamente asservita (ed eventualmente annichilita) dall’IA. In nessun caso, proiettando sull’intelligenza artificiale ciò di cui è stata capace nel corso della sua storia l’intelligenza umana, la nostra “ultima invenzione” dovrebbe mostrare un senso di compassione nei nostri confronti.
Ma se i nostri timori sono oggi così fondati, è perché sono sostanzialmente il frutto del nostro passato, che troviamo così ben rappresentato nel presente. E abbiamo appunto imparato a nostre spese che dell’umanità come oggi la conosciamo è meglio diffidare. Ogni sviluppo futuro, ogni tentativo di estrapolazione, ci costringe a fare i conti con i punti di partenza: e ciò che siamo oggi, evidentemente, non ci piace granché. E allora: perché non cogliere l’occasione di questo dibattito per fare qualcosa che cambi le cose? Forse le cose andranno male comunque, ma almeno non avremo nulla da rimproverarci.
BATTLESTAR GALACTICA — Pictured: Tricia Helfer as Number Six — SCI FI Channel Photo: Justin Stephens
… che poi sarebbero le domande fondamentali del nostro tempo – e, forse, di tutti i tempi. Sono lo spunto tematico della sezione monografica del nuovo numero di Quaderni d’Altri Tempi, bimestrale a cura di Gennaro Fucile. Roberto Paura ha voluto coinvolgermi nella titanica impresa di fornire una panoramica su alcuni temi di particolare rilevanza per gli sviluppi della scienza, e ovviamente l’occasione è diventata il pretesto per tracciare una mappa – parziale, incompleta, iniziale – delle relazioni tra avanzamento scientifico e immaginario di fantascienza. Ne è venuto fuori un lavoro per me particolarmente stimolante, in cui ho ripreso spunti e riflessioni già accennati su queste pagine nei mesi scorsi. Documentatissimi e ricchi di spunti di approfondimento sono i due articoli di Roberto, e tutto il numero si presenta, come di consueto, da leggere e assaporare. Vi rimando quindi al sommario del numero 53 di Quaderni d’Altri Tempi. Buona lettura!
Rilancio (via IIF) questa istruttiva infografica sui rischi esistenziali disseminati lungo il cammino verso il domani. Occhi aperti!
Una delle critiche che più di frequente viene mossa all’agenda transumanista è la sua negazione delle radici umaniste della nostra società. Se da un lato il malinteso tende ad essere alimentato dalle posizioni delle frange superomiste dei vari network locali afferenti alla World Transhumanist Association – Humanity+, dall’altro è incontestabile che il transumanesimo, inteso come filosofia, attitudine e sensibilità, attinga invece a piene mani al complesso di valori e caratteristiche proprie dell’umanesimo. Senza farla troppo lunga e assumendomi il rischio della semplificazione, il principio stesso alla base dell’umanesimo rinascimentale, ovvero la valorizzazione della dignità umana attraverso la conoscenza, il sapere e gli strumenti della tecnica, si riversa nel transumanesimo attraverso i capitoli-chiave dell’Illuminismo e del Positivismo.
L’idea del transumanesimo che personalmente sposo è quella di riportare l’umanità al centro dell’universo, proprio come ai tempi del Rinascimento, ma nella consapevolezza morale che l’umanità non è un’idea scolpita nella pietra, ma un sistema dinamico di valori, in corso di cambiamento continuo. L’uomo di domani non sarà come l’uomo di ieri, che non è come l’uomo di oggi. E, scusate se mi ripeto, sono convinto che dovremmo fin da subito prendere a considerare in termini più ampi e inclusivi concetti come l’identità, la coscienza e, in ultima istanza, l’umanità. Se e quando riusciremo a sviluppare costrutti artificiali di intelligenza, esseri biologicamente modificati, impianti neurali capaci di accrescere le nostre facoltà cognitive, la necessità di modificare il perimetro delle convinzioni attuali, derivate da una stratificazione millenaria di accettazione pseudo-dogmatica, diventerà improcrastinabile. Per indole preferisco gestire il rischio per tempo, piuttosto che doverne affrontare le conseguenze rinunciando a una preparazione adeguata -tanto più quando, come in questo caso, quello che potremmo definire come rischio esistenziale resta circoscritto al campo di una sottoipotesi di una ipotesi.
Il postumanesimo non è nient’altro che l’aspirazione di determinare consapevolmente il proprio futuro, come individui e come specie, usando gli strumenti che ci sono dati, che sono quelli della scienza e della tecnologia, e riconoscendo l’estensione dei diritti validi per l’uomo ad ogni entità senziente.
Fin dalla primissima visione ho provato un’affinità istintiva con le tematiche e i personaggi di True Detective (la celebratissima serie di Nic Pizzolatto prodotta dalla HBO, di cui è in preparazione proprio in questi mesi la seconda stagione). Questa riflessione del sociologo Adolfo Fattori, apparsa sull’ultimo numero di Quaderni d’Altri Tempi, mi ha spinto ad approfondire le ragioni e i motivi di questa fascinazione. Che in realtà potrebbe avere radici più razionali di quanto finora sono stato disposto a considerare, solo ben nascoste dalle spire dell’irrazionale che avvolgono tutta l’opera. A proposito di Rustin “Rust” Cohle, il detective disincantato e nichilista ispirato alla visione del mondo di Thomas Ligotti e interpretato da Matthew McConaughey, Fattori scrive:
Nichilismo puro. Forse uno dei primi esempi di eroe del postumanesimo – prima dei replicanti, degli androidi, dei cloni, cui a volte pensiamo quando usiamo il termine “postumano”, alla ricerca di oggetti che lo riempiano, senza fermarci ad una progressione quantitativa (protesi e mutazioni che aumentano le capacità umane), ma pensando ad uno strappo qualitativo: qualcosa che cambia in noi, umani fatti di sangue, carne, emozioni, affetti.
Potremmo quindi interpretare il personaggio di Rust, scomodo, inquietante, estraneo – addirittura alieno – al consesso umano, non come il classico antieroe a cui tanta letteratura e tanto cinema ci hanno abituati, ma come il prototipo di una nuova classe di eroi, adatto a una sensibilità postumanista. E in effetti, a ben guardare, di inizi a favore di questa ipotesi ne possiamo raccogliere un certo numero.
Rust è un nichilista, anzi come si definisce lui stesso un “pessimista cosmico”, che non riconosce nessuna autorità al di fuori del concetto ideale di giustizia. Porta con sé il dolore della perdita prematura di una figlia che ha mandato in frantumi la sua vita privata. Ha subito delle lesioni permanenti nel corso di un precedente incarico da infiltrato in un clan di motociclisti narcotrafficanti, che lo ha reso schiavo delle anfetamine. «Io non dormo. Sogno e basta» confida a Marty Hart / Woody Harrelson. E le sue parole fanno il paio con queste altre che scambia con Marty in un altro dialogo così efficace e denso, assolutamente improponibile in un confronto televisivo (eppure…):
Rust Cohle: «Sono dell’idea che la coscienza umana sia stato un tragico passo falso nell’evoluzione. Siamo diventati troppo consapevoli di noi stessi. La natura ha creato un aspetto della natura separato da se stessa. Noi siamo creature che non dovrebbero esistere, secondo le leggi della natura. Siamo solo delle cose che si sforzano sotto l’illusione di avere una coscienza, questo incremento delle esperienze sensoriali e della nostra sensibilità, programmata con la completa assicurazione che ognuno di noi è una persona a se’ stante quando, in realtà, ognuno di noi è nessuno. Penso che l’unica cosa onorevole da fare per le specie come la nostra sia rifiutare come siamo fatti. E smettere di riprodurci, procedendo tutti insieme verso l’estinzione. Un’ultima notte nella quale fratelli e sorelle si liberano da un trattamento iniquo».
Marty Hart: «Ma allora… che senso ha alzarsi dal letto, di mattina?».
Rust Cohle: «Mi convinco di essere un testimone, ma la vera risposta è che sono fatto così. Inoltre, non ho la tempra necessaria per suicidarmi».
Rust si vede dunque come un testimone, eppure lui è uno che non dorme. Che sogna e basta, al punto che le visioni oniriche si sovrappongono ai fatti, si mescolano alla realtà, e diventano un tutt’uno, come nella sigla d’apertura scandita dalle note di Far From Any Road del gruppo country alternativo The Handsome Family. Il suo è un vagabondare nelle Terre del Sogno che altri esseri umani scambiano per realtà. Vi ricorda qualcosa?
Rust Cohle: «Nell’eternità, priva di tempo, nulla può crescere. Nulla può divenire. Nulla cambia. Perciò la Morte ha creato il Tempo affinchè facesse crescere tutto ciò che poi lei avrebbe ucciso. Ed ecco che tutte le creature rinascono. Ma solo per rivivere la stessa vita che si è vissuta in precedenza. Pensateci un po’, detective. Quante volte abbiamo già avuto questa conversazione? Chi può dirlo? Se nessuno può ricordare le proprie vite precedenti nessuno può cambiare la propria vita. Ed è questo il terribile ed oscuro segreto della vita stessa. Siamo in trappola. Confinati in quell’incubo nel quale continuiamo a destarci».
O ancora:
Rust Cohle: «Questo è quello di cui parlo quando parlo di tempo e morte e futilità. Ci sono idee più ampie al lavoro soprattutto quello che ci spetta in quanto società per le nostre reciproche illusioni. Quattordici ore di fila a guardare foto di cadaveri queste sono le cose a cui pensi. L’avete mai fatto? Guardi nei loro occhi anche in una foto. Non importa se sono morte o vive. Puoi comunque leggerli e sai cosa vedi? Loro l’hanno accolto. Non subito ma… proprio li’, nell’ultimo istante. E’ un sollievo inconfondibile. Vedete, perchè erano spaventate e ora vedono per la prima volta quanto era facile semplicemente lasciarsi andare ed hanno visto, in quell’ultimo nanosecondo, hanno visto cosa erano state, che tu, proprio tu, tutto questo grande dramma non è mai stato altro che un coacervo raffazzonato di presunzione e stupida volontà e puoi semplicemente lasciarti andare, finalmente, adesso che non devi più aggrapparti così forte… per renderti conto che…tutta la tua vita, sai, tutto il tuo amore, il tuo odio, i tuoi ricordi, il tuo…dolore… era tutto la stessa cosa. Era tutto lo stesso sogno, un sogno che hai avuto dentro una stanza chiusa. Un sogno sull’essere una persona. E come in tanti sogni, c’è un mostro, alla fine».
Rust è refrattario all’irrazionale, alla fede, alla superstizione e all’oscurantismo che dilagano nel Bayou ( «E questa qui sarebbe vita? Persone che si radunano e si raccontano panzane che sono in aperto contrasto con tutte le leggi dell’universo solo per finire una cazzo di giornata in santa pace? No. Sarebbe questa la realtà in cui vivete voi, Marty?»). Compatisce gli altri uomini che non hanno la forza per resistere ai soprusi dell’autorità, alla violenza o anche solo al retaggio delle convenzioni imposte dalla società. Un personaggio contro, in tutto e per tutto. Ma alla fine, messo di fronte alla prova di un nuovo dolore, sopravvissuto alla morte confida a Marty: «A un certo punto quando ero immerso nell’oscurità, so che qualcosa… Qualunque cosa fossi diventato…Non era neanche coscienza, più una indistinta consapevolezza, nell’oscurità. E potevo, potevo sentire i miei contorni… sbiadire. Al di sotto di quella oscurità ce n’era un’altra di tipo diverso, era più profonda. Calda come fattasi sostanza, capisci? Riuscivo a sentire… E sapevo, sapevo per certo che mia figlia mi stava aspettando laggiù».
Non esattamente una redenzione, però Rust, dopo aver trascorso 17 anni ad affrontare la realtà a muso duro, sfidando tutti e resistendo a qualsiasi potere attrattivo da parte degli altri, nei minuti finali della serie torna. Con qualcosa da raccontare. Non lo fa controvoglia, come ha sempre fatto con le sue esternazioni nel corso delle indagini. Lo fa di sua iniziativa:
Rust Cohle: «Una volta non c’era che oscurità. Per come la vedo io, è la luce che sta vincendo».
Qualcuno potrebbe volerci leggere una chiave religiosa. Per me non è così. Credo invece che Rusty da testimone si sia infine convinto a diventare attore, abbracciando la sfida all’irrazionalità del mondo. Non si fa più carico di un dolore e di un pessimismo senza argini, ma piuttosto di un messaggio. E questo messaggio dalle parole si trasferisce nelle azioni, e per tramite loro si cala nel mondo. C’è qualcosa da fare, finalmente, non solo da criticare. Questa è la mia interpretazione.
Forse le parole finali di Cohle non sono abbastanza da arrivare a una pronuncia definitiva. Ma per me risultano più che sufficienti a indirizzare un sospetto.
E se il mondo in cui viviamo, la nostra vita stessa, l’universo che ci ostiniamo a voler studiare e capire, se tutto questo non fosse altro che un inganno? Una simulazione, messa in piedi da qualcuno per scopi che forse siamo condannati a ignorare per sempre?
Uno dei rischi esistenziali esposti da Nick Bostrom è legato al cosiddetto Simulation argument, da lui approfondita in un articolo del 2003 (e anche in questo caso incoraggio la lettura, il post che segue ne rappresenta un semplice, parzialissima riduzione).
Inizialmente proposta da Hans Moravec, l’ipotesi dell’universo simulato è stata ripresa da Bostrom nel 2001, sviluppando un ragionamento volto a esaminare la probabilità che la nostra realtà potesse essere un simulacro. Ma vale la pena ricordare che tutta la fantascienza è ricca di universi simulati, già prima del citatissimo Dick, pensiamo a Theodore Sturgeon con il racconto Il signore del microcosmo (1941) o a Robert A. Heinlein con Il mestiere dell’avvoltoio (1942), oppure a Daniel F. Galouye, già con Stanotte il cielo cadrà (1952-55) ma soprattutto con Simulacron-3 (1964), da cui il cinema e la televisione avrebbero attinto a piene mani.
La tesi di Bostrom stabilisce che almeno una delle seguenti asserzioni ha ottime probabilità di essere vera:
- La civiltà umana verosimilmente non raggiungerà un livello di maturità tecnologica capace di produrre simulazioni della realtà, oppure potrebbe essere fisicamente impossibile riprodurre tali simulazioni.
- Una civiltà equivalente che raggiungesse il suddetto livello tecnologico probabilmente non produrrà un numero significativo di realtà simulate (un numero tale da spingere l’esistenza probabile di entità digitali al di là del numero probabile di entità “reali” nell’Universo) per un qualsiasi tipo di motivo, come ad esempio l’utilizzo della potenza di calcolo per altri compiti, considerazioni di ordine etico sulla schiavitù delle entità prigioniere delle realtà simulate, etc.
- Ogni entità con il nostro set generale di esperienze quasi certamente vive in una simulazione.
Il ragionamento si basa sulla premessa che, data una tecnologia sufficientemente avanzata, sia possibile rappresentare la superficie abitata della Terra senza ricorrere alla simulazione quantistica; che i qualia (gli aspetti qualitativi delle esperienze coscienti) sperimentati da una coscienza simulata siano paragonabili o equivalenti a quelli di una coscienza umana naturale; e che uno o più livelli di simulazioni annidate una nell’altra siano fattibili dato solo un modesto investimento di risorse computazionali nel mondo reale.
Se si assume innanzitutto che gli umani non andranno incontro alla distruzione o all’autodistruzione prima di sviluppare una simile tecnologia, e poi che i discendenti dell’umanità non avranno restrizioni legali o rimorsi morali contro la simulazione di biosfere possibili o della loro stessa biosfera storica, allora sarebbe irragionevole annoverare noi stessi nella ridotta minoranza di organismi reali che, prima o poi, saranno largamente sopravanzati in numero dai costrutti artificiali. In definitiva, è una questione di pura e semplice statistica.
Epistemologicamente, non sarebbe impossibile definire se stiamo vivendo in una simulazione. Ma le imperfezioni di un ambiente simulato potrebbero essere difficili da individuare per gli abitanti nativi della simulazione.
La tesi dell’universo simulato ci pone di fronte a un dilemma degno di nota. Se non si accetta l’idea di poter essere nient’altro che una simulazione in un universo simulato, si sta implicitamente negando la possibilità che l’umanità evolva in una civiltà postumana, oppure che tutte le civiltà postumane saranno soggette a qualche tipo di prescrizione che vieti loro di simulare i mondi dei loro precursori. Ed entrambe le spiegazioni non sono molto rassicuranti per il nostro cammino evolutivo futuro.
A qualcuno potrebbe ricordare il discusso paradigma olografico, ma in realtà questo scenario è molto peggiore. In quel caso saremmo infatti in presenza di una proprietà naturale dell’universo, che non richiede il coinvolgimento di una qualunque entità superiore tra i suoi presupposti. Se invece il mondo in cui viviamo dovesse essere una simulazione, se le nostre stesse vite fossero una simulazione nella simulazione, le cose si farebbero notevolmente più complicate. E naturalmente rischiose, in termini esistenziali. Di punto in bianco infatti qualcuno potrebbe decidere di interromperne l’esecuzione della realtà in cui siamo istanziati…
All’improvviso – shutdown!
E tanto in termini soggettivi quanto globali dovrete convenire che non è affatto una prospettiva confortante. Nemmeno se dovesse diventare certezza la possibilità di un dio o di un demiurgo, là fuori, in ascolto.
Interazioni recenti