Dopo la scorribanda di questi ultimi giorni sulle intelligenze artificiali superumane e gli universi-simulacro, voglio lanciarvi una provocazione. Vi propongo quindi un rompicapo, lo stesso proposto dall’utente Roko di LessWrong, una comunità molto attiva su alcuni campi della riflessione transumanista, e che gli ha meritato l’espulsione dal forum. Dal suo nickname e dalla creatura mitologica in grado di pietrificare con il semplice sguardo, il dilemma ha preso il nome di Roko’s Basilisk. In che consiste?

Immaginate che in un futuro più o meno lontano una IA superumana veda davvero la luce e che una IA maligna da essa generata decida di scoprire chi ha partecipato attivamente al suo avvento, e chi no. La IA istanzia una simulazione di tutte le coscienze umane che l’hanno preceduta e verifica il loro comportamento. Se avete dedicato la vostra vita al perfezionamento dell’IA e al suo avvento, il Basilisco vi premia – vi risparmia la vita, oppure lascia che la vostra vita simulata vada avanti senza che voi vi accorgiate di niente. In caso contrario, vi condanna a un’eternità di tormento.

Forse siamo già nella simulazione. Forse Dick non aveva poi torto. Forse, qualcuno sta osservando la nostra condotta di azione per decidere cosa fare di noi. Non è un bell’augurio, ma sappiate che se un giorno ci rivedremo potrebbe essere all’inferno!

cyberpunk_connection

Approfondimenti

Annunci