Incompletezza e conoscibilità: da Kurt Gödel a Neal Stephenson (andata e ritorno)

Per una di quelle strane combinazioni di eventi che classifichiamo come coincidenze, mi sono ritrovato per le mani il libro di Gabriele Lolli dedicato ai Teoremi di incompletezza di Kurt Gödel proprio mentre completavo la lettura estiva di Anathem. Il monumentale romanzo di Neal Stephenson è a mio giudizio uno dei vertici della fantascienza del nuovo secolo e meriterà presto un approfondimento dedicato. La sua impostazione fortemente neoplatonica richiama, anche nel parallelo dei personaggi con figure storiche oltre che nelle situazioni e gli eventi citati con fatti realmente accaduti (qui trovate un’utilissima guida per riconoscere le molteplici linee di intersezione tra la storia della Terra e quella di Arbre), il ruolo centrale di Gödel nel definire le condizioni sotto le quali è possibile attingere a qualche forma di verità e quindi di conoscenza. È lo stesso Stephenson a sottolinearlo in una ricchissima pagina di approfondimenti dedicata al romanzo sul suo sito web.

Le due letture si sono completate illuminandosi a vicenda, ma se è stata necessaria anche qualche rilettura del bel libricino di Lolli, integrata da materiale disponibile on-line (ai teoremi il matematico Maurizio Codogno ha dedicato due interessantissimi, e piuttosto facili da seguire, articoli sul Post, per l’esattezza qui e qui), l’argomento è così ricco di risvolti e meandri da approfondire che non ho saputo fare a meno di fiondarmi pure su un altro testo che preservi la magia dei risultati concettuali raggiunti dal matematico austriaco-americano, ovvero Logica da zero a Gödel di Francesco Berto. D’altro canto è lo stesso libro di Lolli a suggerire e chiamare percorsi di lettura che sono in qualche modo già segnati nella mia libreria, e che fanno tappa in corrispondenza delle mensole che ospitano Gödel, Escher, Bach: un’Eterna Ghirlanda Brillante di Douglas R. Hofstadter e La Mente nuova dell’imperatore di Roger Penrose.

Per farla breve e correre il rischio di banalizzare e sminuirne la portata, i teoremi di Gödel sanciscono l’esistenza, all’interno di ogni teoria (o linguaggio o sistema formale) sufficientemente potente da contenere l’insieme dei numeri naturali, di espressioni vere ma non decidibili, e la necessità di ricorrere a metateorie (o metalinguaggi o sistemi formali più potenti) per dimostrare la coerenza di quella teoria. Da qui è scaturita tutta una serie di generalizzazioni, fraintendimenti ed equivoci che, se da un lato hanno “inquinato” il lavoro teorico di Gödel, dall’altro hanno indiscutibilmente anche contribuito più o meno direttamente al suo successo “popolare”. E nel suo libro Lolli passa in rassegna una ricca galleria di reazioni suscitate dai teoremi di incompletezza.

Se vi va di approfondire, ne ho parlato la scorsa settimana su Quaderni d’Altri Tempi. E ovviamente, se volete sviscerare l’argomento, il mio consiglio è di procurarvi I teoremi di incompletezza e usarlo come un manualetto per esplorare nuovi percorsi di lettura.

 

Se credete che questo mondo sia brutto…

A proposito di universi simulati, Philip K. Dick aveva già illustrato questo scenario prima che diventasse popolare, e prima che venisse investigato accuratamente nell’ambiente accademico. Intervenendo alla convention francese di fantascienza di Metz del 1977, Dick tenne un celebre discorso che oggi è considerato come una delle principali fonti di ispirazione della trilogia di Matrix dei fratelli Wachowski, ma che all’epoca suscitò non poche perplessità, specie – come si evince dalle registrazioni video dell’intervento – tra i presenti, che pure lo avevano accolto come il più grande scrittore vivente, ma che rimasero inebetiti e increduli davanti alle sue parole:

L’argomento di questo discorso è un tema che è stato scoperto di recente, e che potrebbe non esistere affatto. Potrei essere qui a parlarvi di qualcosa che non esiste nemmeno. Quindi mi sento libero di dire tutto e niente. Nelle mie storie e nei miei romanzi talvolta scrivo di mondi contraffatti. Mondi semi-reali oppure mondi personali sconvolti, abitati spesso da un’unica persona… Non ho mai avuto una spiegazione teorica o consapevole per il mio interesse verso questi pseudo-mondi pluriformi, ma adesso penso di aver capito. Ciò che avvertivo era la molteplicità delle realtà che si sono compiute solo in parte, contigue a quella che evidentemente è la più compiuta – quella su cui conviene, per consenso universale, la maggior parte di noi.

Altre uscite non meno bizzarre non contribuirono di certo ad accrescere presso il grande pubblico la credibilità dell’autore americano, ma leggere oggi i passaggi del suo discorso, alla luce dei progressi compiuti nell’indagine filosofica e nella conoscenza scientifica, lascia altrettanto increduli, e non esattamente per le stesse ragioni:

Alcuni sostengono di ricordare vite precedenti; io sostengo di ricordare una vita presente molto diversa. […] Viviamo in una realtà programmata dai computer, e il solo indizio che abbiamo a riguardo si presenta quando qualche variabile viene modificata e nella nostra realtà si verifica una qualche alterazione. In quel caso avremmo la soverchiante impressione di rivivere il presente – un déjà vu – magari proprio nello stesso modo: sentiamo le stesse parole, diciamo le stesse parole. Sostengo che queste impressioni  siano valide e significative, e vi dirò di più: questa stessa impressione è un indizio che in qualche punto del passato una variabile è stata modificata – riprogrammata com’era in precedenza – e che proprio per questo è scaturito un mondo alternativo.

Ma chi potrebbe avere interesse a simulare il nostro mondo – o, perché no, tutti i mondi possibili?

Esiste un detto tra i futuristi: che un’intelligenza artificiale simil-umana è destinata a essere la nostra ultima invenzione. Dopo di questa, le IA saranno capaci di progettare da sé praticamente qualsiasi cosa – incluse loro stesse. E in questo modo una IA ricorsivamente auto-perfezionante potrebbe diventare una macchina superintelligente.

Il concetto di Singolarità Tecnologica sarà forse noto ai più. Per la legge dei ritorni accelerati, ogni ricaduta di un avanzamento tecnologico produce effetti sempre più ravvicinati nel tempo, e in presenza di una IA già più avanzata della mente umana potremmo assistere a uno scenario di vera e propria esplosione di intelligenza. Per la natura stessa della Singolarità, è arrischiato fare ipotesi sulle sue conseguenze: citando la teoria del caos, gli esiti di un simile evento sono intrinsecamente imprevedibili. Ma possiamo azzardare comunque degli effetti.

L’IA superumana potrebbe avere interessi variegati, che prima o poi potrebbero portarla in conflitto con gli interessi umani. Fuori da ogni metafora, a meno di non accettare di essere già in una simulazione, gli esseri umani sono fatti di atomi che l’IA superumana potrebbe usare per fare qualcos’altro, come ha candidamente ammesso Eliezer Yudkowsky, blogger, fondatore della comunità LessWrong e fautore della cosiddetta “IA gentile”. E se anche fossimo nella simulazione, l’IA superumana simulata non sarebbe, proprio come noi, tenuta ad accorgersene in tempo.

In retrospettiva, mi piace credere che questo sia uno dei rischi per cui le pur potenti IA protagoniste di Neuromante, il romanzo di William Gibson capostipite del cyberpunk e della fantascienza contemporanea (della cui pubblicazione ricorre quest’anno il 30° anniversario), debbano vedersela con i controlli e le severe limitazioni imposte dal Turing Law Code e applicate dalla Polizia di Turing. Fin qui le buone notizie. Le brutte: alla fine le super-IA riescono malgrado tutto comunque a raggiungere il loro scopo.

La tesi dell’universo simulato

E se il mondo in cui viviamo, la nostra vita stessa, l’universo che ci ostiniamo a voler studiare e capire, se tutto questo non fosse altro che un inganno? Una simulazione, messa in piedi da qualcuno per scopi che forse siamo condannati a ignorare per sempre?

Uno dei rischi esistenziali esposti da Nick Bostrom è legato al cosiddetto Simulation argument, da lui approfondita in un articolo del 2003 (e anche in questo caso incoraggio la lettura, il post che segue ne rappresenta un semplice, parzialissima riduzione).

Inizialmente proposta da Hans Moravec, l’ipotesi dell’universo simulato è stata ripresa da Bostrom nel 2001, sviluppando un ragionamento volto a esaminare la probabilità che la nostra realtà potesse essere un simulacro. Ma vale la pena ricordare che tutta la fantascienza è ricca di universi simulati, già prima del citatissimo Dick, pensiamo a Theodore Sturgeon con il racconto Il signore del microcosmo (1941) o a Robert A. Heinlein con Il mestiere dell’avvoltoio (1942), oppure a Daniel F. Galouye, già con Stanotte il cielo cadrà (1952-55) ma soprattutto con Simulacron-3 (1964), da cui il cinema e la televisione avrebbero attinto a piene mani.

La tesi di Bostrom stabilisce che almeno una delle seguenti asserzioni ha ottime probabilità di essere vera:

1. La civiltà umana verosimilmente non raggiungerà un livello di maturità tecnologica capace di produrre simulazioni della realtà, oppure potrebbe essere fisicamente impossibile riprodurre tali simulazioni.
2. Una civiltà equivalente che raggiungesse il suddetto livello tecnologico probabilmente non produrrà un numero significativo di realtà simulate (un numero tale da spingere l’esistenza probabile di entità digitali al di là del numero probabile di entità “reali” nell’Universo) per un qualsiasi tipo di motivo, come ad esempio l’utilizzo della potenza di calcolo per altri compiti, considerazioni di ordine etico sulla schiavitù delle entità prigioniere delle realtà simulate, etc.
3. Ogni entità con il nostro set generale di esperienze quasi certamente vive in una simulazione.

Il ragionamento si basa sulla premessa che, data una tecnologia sufficientemente avanzata, sia possibile rappresentare la superficie abitata della Terra senza ricorrere alla simulazione quantistica; che i qualia (gli aspetti qualitativi delle esperienze coscienti) sperimentati da una coscienza simulata siano paragonabili o equivalenti a quelli di una coscienza umana naturale; e che uno o più livelli di simulazioni annidate una nell’altra siano fattibili dato solo un modesto investimento di risorse computazionali nel mondo reale.

Se si assume innanzitutto che gli umani non andranno incontro alla distruzione o all’autodistruzione prima di sviluppare una simile tecnologia, e poi che i discendenti dell’umanità non avranno restrizioni legali o rimorsi morali contro la simulazione di biosfere possibili o della loro stessa biosfera storica, allora sarebbe irragionevole annoverare noi stessi nella ridotta minoranza di organismi reali che, prima o poi, saranno largamente sopravanzati in numero dai costrutti artificiali. In definitiva, è una questione di pura e semplice statistica.

Epistemologicamente, non sarebbe impossibile definire se stiamo vivendo in una simulazione. Ma le imperfezioni di un ambiente simulato potrebbero essere difficili da individuare per gli abitanti nativi della simulazione.

La tesi dell’universo simulato ci pone di fronte a un dilemma degno di nota. Se non si accetta l’idea di poter essere nient’altro che una simulazione in un universo simulato, si sta implicitamente negando la possibilità che l’umanità evolva in una civiltà postumana, oppure che tutte le civiltà postumane saranno soggette a qualche tipo di prescrizione che vieti loro di simulare i mondi dei loro precursori. Ed entrambe le spiegazioni non sono molto rassicuranti per il nostro cammino evolutivo futuro.

A qualcuno potrebbe ricordare il discusso paradigma olografico, ma in realtà questo scenario è molto peggiore. In quel caso saremmo infatti in presenza di una proprietà naturale dell’universo, che non richiede il coinvolgimento di una qualunque entità superiore tra i suoi presupposti. Se invece il mondo in cui viviamo dovesse essere una simulazione, se le nostre stesse vite fossero una simulazione nella simulazione, le cose si farebbero notevolmente più complicate. E naturalmente rischiose, in termini esistenziali. Di punto in bianco infatti qualcuno potrebbe decidere di interromperne l’esecuzione della realtà in cui siamo istanziati…

All’improvviso – shutdown!

E tanto in termini soggettivi quanto globali dovrete convenire che non è affatto una prospettiva confortante. Nemmeno se dovesse diventare certezza la possibilità di un dio o di un demiurgo, là fuori, in ascolto.