Nella mitologia ebraica è presente la nota figura del golem, il gigante d’argilla che può essere creato solo da chi conosce i segreti della cabala, e in grado di svolgere i lavori più pesanti al servizio dell’umanità. Secondo la leggenda che ha come protagonista il rabbino Jehuda Löw ben Bezalel, vissuto nel Cinquecento a Praga, in alcuni casi questi golem possono però sfuggire al controllo dell’essere umano, ribellandosi ai creatori e all’umanità tutta.
Vi ricorda qualcosa? I discorsi che circondano l’intelligenza artificiale – considerata un’entità generabile solo da una ristretta élite, il cui avvento è destinato a cambiare tutto e che pone rischi esistenziali per l’essere umano – assumono sempre più spesso toni millenaristi, che ricordano più il fervore religioso che la razionalità scientifica. «Più ascolti i dibattiti della Silicon Valley sull’intelligenza artificiale, più si sente l’eco della religione», scrive su Future Perfect Sigal Samuel, che da anni si occupa dell’intreccio tra scienza e religione.
IL FILO DELLA SINGOLARITÀ
L’intreccio può sembrare sorprendente, un cortocircuito dei nostri tempi confusi. Invece c’è un filo che unisce pensatori cristiani del Medioevo come Scoto Eriugena, che ritenevano di poter restituire all’essere umano la perduta perfezione tramite la tecnologia, al gesuita francese Pierre Teilhard de Chardin, che a inizio Novecento teorizzava l’esplosione di complessità e intelligenza battezzata “Punto Omega”. Attraverso vari passaggi, il concetto è stato rielaborato in quella che il futurologo e ingegnere di Google Ray Kurzweil ha definito «singolarità tecnologica», cioè il momento in cui l’intelligenza artificiale raggiunge il livello umano e poi lo supera rapidamente di vari ordini di grandezza. La singolarità, che in altre interpretazioni prevede anche la fusione tra essere umano e macchina, è oggi il fondamento di ogni interpretazione millenarista dell’intelligenza artificiale.
C’è insomma un filo che lega interpretazioni religiose e teorie tecnologiche della Silicon Valley: «A volte ho l’impressione che questo sfrenato entusiasmo per l’intelligenza artificiale generale (ovvero quella che raggiungerà e supererà il livello dell’essere umano, ndr) sia solo un malriposto impulso religioso da parte di persone cresciute in una cultura secolare», ha scritto su X Jack Clark, cofondatore della società di deep learning Anthropic.
Parole che evocano quelle di Erik Davis, che nel suo fondamentale Techgnosis – da poco ristampato da Nero e in cui è indagata proprio la fasulla cesura tra scienza e spiritualità – scrive: «[Viviamo in] una cultura ipertecnologica e cinicamente postmoderna che sembra attratta come uno sciame di falene dalle fiamme tremolanti della mentre premoderna».
SOGLIA DI RISCHIO
Tutto ciò non rappresenta un problema se la commistione tra scienza e religione viene esplicitamente riconosciuta e affermata dalle persone che la propugnano, dando a volte vita a bizzarre “chiese” contemporanee come la (già defunta) Way of the Future Church o il Terasem Movement.
Lo scenario si fa più inquietante quando la fusione scientifico-religiosa viene invece rifiutata dai suoi stessi profeti, com’è il caso del già citato Ray Kurzweil e soprattutto del filosofo Nick Bostrom, teorico della super intelligenza artificiale e del «rischio esistenziale», nonché figura di riferimento della scuola di pensiero che, più di ogni altra, offre una visione escatologica spacciandola per scientifica e razionale: il lungotermismo.
Nata a Oxford nei primi anni Dieci del Duemila da filosofi come Toby Ord o William MacAskill, questa scuola di pensiero radicalmente utilitarista sostiene in sintesi che l’unico compito dell’umanità sia di garantirsi a ogni costo un futuro a lunghissimo termine in cui possa vivere il maggior numero possibile di esseri umani, sfruttando a tal scopo anche le incredibili chance offerte dall’intelligenza artificiale (se saremo in grado di tenerla sotto controllo), al fine di conquistare un avvenire utopico in cui ci saremo espansi in ogni angolo dell’universo. Come le religioni, se portato alle estreme conseguenze il lungotermismo conduce a una deriva fanatica», scrive Irene Doda nel suo L’utopia dei miliardari (Tlon).
«Se si conosce la via del bene supremo, cosa importa che nel mentre ci sia qualche incidente di percorso? Se nel breve periodo pochi milioni o miliardi di persone soffrono e muoiono come conseguenza di decisioni politiche, nel quadro delineato dai lungotermisti è una quisquilia». Perciò non pochi sostenitori del lungotermismo – da Elon Musk a Sam Altman di OpenAi – si trovano nella curiosa condizione di metterci in guardia dai rischi esistenziali posti da quella stessa intelligenza artificiale che loro per primi stanno sviluppando. Se è così pericolosa, perché la stanno sviluppando?
Nonostante i rischi che potrebbe teoricamente porre, è considerata la nostra migliore chance per dare vita a un futuro utopico, che ci permetterà di sconfiggere la vecchiaia, di espanderci nel cosmo e di dare vita a una nuova umanità. La posta in gioco è così elevata – dal punto di vista esclusivamente probabilistico assunto dai fondatori del lungotermismo – che appare loro ragionevole correre oggi ogni tipo di rischio.
SEDUZIONI APOCALITTICHE
«Ogni studente di religione riconoscerebbe subito questa forma di ragionamento per ciò che è: logica apocalittica», scrive ancora Sigal Samuel. «I lungotermisti hanno ereditato la visione secondo cui la fine dei tempi è vicina e il progresso tecnologico è la nostra migliore chance per evitarla. Per le persone che seguono tale logica, è naturale perseguire l’intelligenza artificiale generale. Per quanto possa rappresentare un rischio esistenziale, pensano che non possiamo permetterci di non costruirla».
È una narrazione che ha molta presa negli Stati Uniti, dove il 61 per cento degli intervistati in un recente sondaggio Reuters/Ipsos ha dichiarato di temere che l’intelligenza artificiale metta a rischio la civiltà umana, percentuale che sale parecchio tra gli evangelici. Allo stesso tempo, quattro statunitensi su dieci, secondo un altro sondaggio, credono che l’umanità stia andando incontro alla fine dei tempi.
I lungotermisti si inseriscono precisamente in questa sovrapposizione tra la paura dell’intelligenza artificiale e i timori apocalittici, offrendo una via d’uscita apparentemente razionale e scientifica. Una via d’uscita che, guarda caso, offre alle persone che la indicano enormi vantaggi economici e politici: i lungotermisti sono molto inseriti nelle aziende che sviluppano intelligenza artificiale e nei fondi d’investimento tecnologico, e stanno rapidamente conquistando grande influenza politica.
Toby Ord, per esempio, è stato nelle grazie di Boris Johnson e consigliere di Oms, Banca Mondiale, World Economic Forum e altre istituzioni. Il think tank Center for Security and Emerging Technologies di Washington è stato fondato da Jason Matheny (già consigliere per la Tecnologia e la Sicurezza nazionale di Joe Biden) con l’obiettivo di collocare seguaci del lungotermismo nelle istituzioni Usa.
Le parole d’ordine lungotermiste sono state di recente citate in un documento Onu e da Rishi Sunak. La classe politica occidentale dovrebbe tener presente le ragioni che, in epoca moderna, hanno portato alla separazione tra Chiesa e Stato; ed evitare che pericolose visioni millenariste ammantate di tecnologia si facciano largo nelle istituzioni per perseguire precisi interessi.
© Riproduzione riservata
Nessun commento:
Posta un commento