You are currently browsing the tag archive for the ‘Roko’s Basilisk’ tag.

Milan M. Cirkovic è un ricercatore serbo dell’Osservatorio Astronomico di Belgrado che da tempo si occupa di astrobiologia e SETI. In un famoso articolo del 2008, pubblicato sul Journal of the British Interplanetary Society, si sofferma sulle possibili evoluzioni delle società post-biologiche, sia postumane che extraterrestri. L’articolo può essere consultato su Arxiv.org e si intitola, in maniera molto evocativa per chi ha confidenza con un certo immaginario fantascientifico, Against the Empire.

In quello studio Cirkovic considerava due possibili modelli di società post-biologiche, applicabili a società sia postumane che extraterrestri: l’impero e la città-stato. Il primo si basa sulla spinta all’espansione e alla colonizzazione, il secondo sul contenimento delle dimensioni mirato all’ottimizzazione delle risorse. L’autore pone l’accento sul fatto che quasi sempre si analizzano i possibili comportamenti delle società post-biologiche senza tener conto del fatto che in tali società gli imperativi derivanti dalla biologia perderanno la loro importanza. Muovendo da questa considerazione arriva alla conclusione che il modello della città-stato ha ottime probabilità di successo in una società post-biologica, mentre il modello dell’impero non sarebbe così diffuso come siamo spinti a credere per effetto dei bias alimentati dalle nostre letture e visioni fantascientifiche, specialmente quelle più popolari, divenute quasi mainstream (pensiamo a Star Trek o Star Wars, che malgrado la varietà di specie portate in scena rappresentano modelli piuttosto omogenei).

Da tempo sono spinto dalle mie letture e scritture a riflettere sulle possibili caratteristiche delle società postumane. E ormai da diversi anni la fantascienza va elaborando scenari sempre più contaminati, eterogenei, meticci. Tanto che, sicuramente condizionato da queste rappresentazioni (penso a Kim Stanley Robinson, ad Alastair Reynolds, a M. John Harrison, ad Aliette de Bodard), ormai faccio fatica a concepire una società dalla costituzione monolitica e omogenea e anzi, devo ammettere, gran parte del piacere del world-building nasce dalla complessità degli scenari che si vanno elaborando.

posthuman1

Proviamo a vedere da quali considerazioni scaturiscono queste ipotesi?

1. Diversificazione e postumanesimo. In prima battuta dovrebbe risultare sempre meno plausibile, o quanto meno “bizzarro”, che nel vasto ventaglio delle soluzioni possibili possa prevalere un’unica tecnologia postumanizzante, a meno che questa tecnologia non sia un particolare tipo di intelligenza artificiale, nel qual caso ricadremmo nella fattispecie di problemi che abbiamo già esaminato un po’ di tempo fa e che smorzerebbe sul nascere ogni ulteriore discussione sul merito della faccenda. Quindi ipotizziamo che l’intelligenza artificiale si sviluppi in parallelo con altre tecnologie emergenti (nano- e bio-, genetica, cognitive augmentation, etc.) portando a un’esplosione di intelligenza, spingendo la curva del progresso oltre l’orizzonte percepibile della Singolarità Tecnologica, e innescando tutta quella catena di eventi che su periodi sempre più brevi renderanno sempre più complessa la società in cui viviamo, innescando il meccanismo a orologeria delle contraddizioni irrisolte che si annidano in essa, e rendendo ogni possibile scelta una questione di sopravvivenza. La diversificazione sarebbe funzionale alla resilienza (concetto ultimamente abusato e sempre più diffuso a sproposito), ma non trascuriamo neanche – per dirla con Nassim Nicholas Taleb – i vantaggi dell’antifragilità in contesti dalla spiccata incertezza.

Potrebbe infatti anche essere semplicemente una questione di filosofia: in altre parole, l’umanità potrebbe non essere così compatta da mettere a punto un piano di soluzioni condivise per affrontare i rischi esistenziali che si porranno. Eventi più o meno catastrofici potrebbero mettere l’umanità davanti a bivi più o meno drammatici, fungendo anche da banco di prova per le soluzioni escogitate. E una strategia quanto più diversificata potrebbe essere una risposta possibile (oltre che alquanto probabile) da parte del genere umano in una situazione di forte pericolo. E siccome non è detto che ogni problema abbia un’unica soluzione, eccoci mentre ci addentriamo nel giardino dei sentieri che si biforcano. Un luogo molto particolare, nel quale ad ogni passo corrispondono ore del tempo a cui siamo abituati. E poi giorni. E poi anni…

artistic-human-1024x640

2. Diaspora e disgregazione. In seconda battuta, su un periodo sufficientemente lungo (diciamo una prospettiva di qualche decennio, ma volendo stiamo pure larghi e diamoci l’orizzonte temporale del secolo in corso), non riesco a disaccoppiare l’evoluzione postumana dalla colonizzazione spaziale. I due concetti mi sembrano diventare sempre più inestricabilmente correlati man mano che ci addentriamo nell’uno o nell’altro. La Nuova Frontiera Spaziale potrebbe rappresentare quel punto di svolta capace di promuovere la diffusione di numerose tecnologie emergenti. Ho studiato anch’io Kim Stanley Robinson, negli ultimi anni me ne sono occupato diffusamente e ovviamente ho bene in mente questo suo articolo fondamentale, tuttavia non riesco a non pensare a un futuro a medio-lungo termine in cui l’umanità resta confinata sulla Terra.

Non prevedo lo sviluppo di una civiltà interstellare, ma trovo istintivamente poco credibile uno scenario in cui da qui alla fine del XXI secolo non ci siano delle colonie umane nello spazio: habitat artificiali nella cintura asteroidale, o sulla Luna e su Marte, magari anche solo come forma di presidio scientifico se non proprio di sfruttamento minerario, renderanno la frontiera spaziale un po’ quello che nel XX secolo è stato l’Antartide. Sicuramente poco per parlare di una vera e propria civiltà interplanetaria, ma a mio parere un’esperienza fondamentale per dotarsi di quelle conoscenze necessarie a elaborare sistemi di supporto vitale in grado di assicurare agli habitat artificiali un’autonomia dal pianeta madre. Qui mi rendo conto di calpestare un terreno piuttosto scivoloso, però nel 1919 conoscevamo già tutto quello che nella seconda metà del secolo scorso avrebbe reso possibile lo sviluppo di internet, dai laboratori della DARPA alle nostre case (e ancora una manciata di anni dopo alle nostre tasche): il limite era di natura tecnica, non scientifica. Quindi non trovo così astruso pensare a ecosistemi chiusi sempre più efficienti per sostenere piccole comunità di coloni spaziali.

Volendo spingerci più avanti di qualche secolo, senza timore di sconfinare nel dominio delle fantasticherie, la diaspora umana su altri pianeti esterni al sistema solare non farebbe altro che indebolire i reciproci legami e influssi tra le varie comunità. Le distanze in gioco sarebbero tali da comportare una drastica riduzione della banda di comunicazione e un lag culturale di una certa rilevanza. Anche limitandoci a considerare solo i sistemi stellari più vicini (una cinquantina nel raggio di 5 parsec, ovvero 16 anni-luce), senza un qualche tipo di collegamento più veloce della luce (FTL) ci troveremmo di fronte a separazioni dell’ordine di decine di anni di attraversamento (ricordate Interstellar? Allo stato attuale: “La stella più vicina è lontana migliaia di anni…“). La Nuova Frontiera risulterebbe così estremamente incentivante sul fronte della “postumanizzazione” come anche della disgregazione della matrice dell’umanità. A questo proposito sono esemplari i lavori di Samuel R. Delany (che in Babel 17 mette in scena una frammentazione di tipo linguistico e culturale), di Bruce Sterling (che nel sontuoso universo della Matrice Spezzata parte dalla frattura dell’umanità in Mechanist e Shaper per progredire nella disintegrazione tra cladi e fazioni fino a livelli parossistici) e di Alastair Reynolds (che allestisce uno scenario intrigante e piuttosto problematico, con numerose fazioni politiche a contendersi lo scacchiere interstellare del Revelation Space).

nearby_stars_14ly_radius

A meno di qualche scoperta o invenzione che ci permetta di infrangere la barriera della luce e contrarre così le distanze tra i diversi avamposti della postumanità, la colonizzazione interstellare condurrà a una crescente frammentazione che potrebbe semplicemente rappresentare la naturale evoluzione della situazione già disgregata di partenza, in uno scenario che richiama l’organizzazione in città-stato a cui si riferisce Cirkovic. In una sorta di gioco frattale di autosomiglianza di scala, le differenze potrebbero ripetersi a livello planetario, stellare e interstellare.

Annunci

Questa recensione di Ex Machina, film scritto e diretto da Alex Garland (dal 30 luglio anche in Italia) che s’inserisce nel filone transumanista recentemente esplorato da Hollywood già in diversi titoli – con risultati alterni – da Lei a Transcendence, richiama l’attenzione su una serie di riferimenti che già mi sono serviti come punti cardinali in un paio di uscite pubbliche. Dalla riflessione era per altro scaturito questo articolo per Quaderni d’Altri Tempi, e a Bellaria abbiamo colto l’occasione con Zoon e Kremo per imbastire un panel a 360° sui rischi esistenziali, proprio a partire dal clamore suscitato dagli avvertimenti lanciati da luminari del calibro di Stephen Hawking (che non ha certo bisogno di presentazioni da queste parti) o Elon Musk (l’imprenditore sudafricano-americano fondatore di start-up di successo, da PayPal a Tesla Motors a SpaceX). E proprio i loro nomi, insieme a quello di Nick Bostrom, sono quelli che richiamavamo in quella sede, a partire dal dibattito incentrato sull’evoluzione delle intelligenze artificiali simil o super umane.

Com’è stato detto, se mai risulterà possibile una superintelligenza artificiale sarà anche l’ultima invenzione dell’uomo. Il progresso è sempre guidato dalla civiltà più evoluta. E in presenza di una intelligenza artificiale confrontabile o già superiore all’intelligenza umana, capace di migliorarsi a un ritmo per noi vertiginoso e inimmaginabile, l’umanità dovrà rassegnarsi a passare il testimone. Risulta quindi plausibile che a quel punto il timone del progresso passi “nelle mani” delle IA, che si sostituiranno in tutto o in parte a noi nel ruolo di motore dell’evoluzione tecnologica, scientifica e culturale sulla Terra.

In uno dei suoi articoli sempre estremamente stimolanti, il divulgatore Caleb Scharf, astrobiologo alla Columbia University, ha provato addirittura a mettere in relazione lo sviluppo delle IA con il paradosso di Fermi, passando per il Grande Filtro: è un’idea interessante, sennonché mi sembra fondarsi sull’assunzione un po’ troppo restrittiva che ogni forma artificiale di intelligenza contenga il germe intrinseco dell’autodistruzione.

D’altronde, se come esseri umani ci stiamo interessando così tanto a un argomento che fino a non molto tempo fa sembrava poterci appassionare solo in forma di fiction (e in effetti credo che negli ultimi trent’anni sia stata scritta e filmata ben poca fantascienza capace di prescindere da un qualche impiego futuro – o rischio connaturato all’uso – delle IA), non è solo per l’effetto perturbante della difformità implicita nell’IA, del suo essere qualcosa di altro da noi. Le implicazioni dell’eventuale avvento dell’IA sono intrinsecamente imprevedibili: potremmo trovarci davanti agli scenari più diversi, da una vera e propria esplosione di intelligenza alla riprogrammazione stessa della materia disponibile sulla Terra e nei suoi paraggi (tutta la materia, esseri viventi inclusi) in computronium, fino a esiti ancora più inquietanti come l’inferno a misura d’uomo teorizzato nel cosiddetto rompicapo del Basilisco di Roko. Si va quindi dal caso migliore dell’umanità vittima collaterale dello sviluppo dell’IA, a quello peggiore dell’umanità completamente asservita (ed eventualmente annichilita) dall’IA. In nessun caso, proiettando sull’intelligenza artificiale ciò di cui è stata capace nel corso della sua storia l’intelligenza umana, la nostra “ultima invenzione” dovrebbe mostrare un senso di compassione nei nostri confronti.

Ma se i nostri timori sono oggi così fondati, è perché sono sostanzialmente il frutto del nostro passato, che troviamo così ben rappresentato nel presente. E abbiamo appunto imparato a nostre spese che dell’umanità come oggi la conosciamo è meglio diffidare. Ogni sviluppo futuro, ogni tentativo di estrapolazione, ci costringe a fare i conti con i punti di partenza: e ciò che siamo oggi, evidentemente, non ci piace granché. E allora: perché non cogliere l’occasione di questo dibattito per fare qualcosa che cambi le cose? Forse le cose andranno male comunque, ma almeno non avremo nulla da rimproverarci.

BATTLESTAR GALACTICA -- Pictured: Tricia Helfer as Number Six -- SCI FI Channel Photo: Justin Stephens

BATTLESTAR GALACTICA — Pictured: Tricia Helfer as Number Six — SCI FI Channel Photo: Justin Stephens

… che poi sarebbero le domande fondamentali del nostro tempo – e, forse, di tutti i tempi. Sono lo spunto tematico della sezione monografica del nuovo numero di Quaderni d’Altri Tempi, bimestrale a cura di Gennaro Fucile. Roberto Paura ha voluto coinvolgermi nella titanica impresa di fornire una panoramica su alcuni temi di particolare rilevanza per gli sviluppi della scienza, e ovviamente l’occasione è diventata il pretesto per tracciare una mappa – parziale, incompleta, iniziale – delle relazioni tra avanzamento scientifico e immaginario di fantascienza. Ne è venuto fuori un lavoro per me particolarmente stimolante, in cui ho ripreso spunti e riflessioni già accennati su queste pagine nei mesi scorsi. Documentatissimi e ricchi di spunti di approfondimento sono i due articoli di Roberto, e tutto il numero si presenta, come di consueto, da leggere e assaporare. Vi rimando quindi al sommario del numero 53 di Quaderni d’Altri Tempi. Buona lettura!

QuadernidAltriTempi_53

Dopo la scorribanda di questi ultimi giorni sulle intelligenze artificiali superumane e gli universi-simulacro, voglio lanciarvi una provocazione. Vi propongo quindi un rompicapo, lo stesso proposto dall’utente Roko di LessWrong, una comunità molto attiva su alcuni campi della riflessione transumanista, e che gli ha meritato l’espulsione dal forum. Dal suo nickname e dalla creatura mitologica in grado di pietrificare con il semplice sguardo, il dilemma ha preso il nome di Roko’s Basilisk. In che consiste?

Immaginate che in un futuro più o meno lontano una IA superumana veda davvero la luce e che una IA maligna da essa generata decida di scoprire chi ha partecipato attivamente al suo avvento, e chi no. La IA istanzia una simulazione di tutte le coscienze umane che l’hanno preceduta e verifica il loro comportamento. Se avete dedicato la vostra vita al perfezionamento dell’IA e al suo avvento, il Basilisco vi premia – vi risparmia la vita, oppure lascia che la vostra vita simulata vada avanti senza che voi vi accorgiate di niente. In caso contrario, vi condanna a un’eternità di tormento.

Forse siamo già nella simulazione. Forse Dick non aveva poi torto. Forse, qualcuno sta osservando la nostra condotta di azione per decidere cosa fare di noi. Non è un bell’augurio, ma sappiate che se un giorno ci rivedremo potrebbe essere all’inferno!

cyberpunk_connection

Approfondimenti

Direttive

Vivere anche il quotidiano nei termini più lontani. -- Italo Calvino, 1968

Neppure di fronte all'Apocalisse. Nessun compromesso. -- Rorschach (Alan Moore, Watchmen)

United We Stand. Divided We Fall.

Avviso ai naviganti

Nel rispetto del provvedimento emanato, in data 8 maggio 2014, dal garante per la protezione dei dati personali, si avvisano i lettori che questo sito si serve dei cookie per fornire servizi e per effettuare analisi statistiche completamente anonime. Pertanto proseguendo con la navigazione si presta il consenso all’uso dei cookie. A questo link potete trovare la gestione della privacy e dei cookie da parte di Automattic (la società che gestisce la piattaforma WordPress.com): Privacy Policy.
Se non ne avete ancora abbastanza, non perdetevi la pagina con l'Informativa Estesa.

Altrove in 140 caratteri

Segui assieme ad altri 95 follower

aprile: 2019
L M M G V S D
« Mar    
1234567
891011121314
15161718192021
22232425262728
2930  

Categorie

Annunci
%d blogger hanno fatto clic su Mi Piace per questo: