Joe Allen: Countdown to Gigadeath – Dalla corsa agli armamenti dell'IA alla guerra degli artigli

Scarica questo articolo...

Per i veri credenti, l'intelligenza artificiale diventerà inevitabilmente sovrumana. Secondo la loro mitologia, siamo alla deriva in un cosmo senza Dio. Quindi spetta a noi creare divinità digitali. O meglio, spetta a pochi geni dell'informatica crearle. Noi altri possiamo solo inginocchiarci davanti al loro altare o essere spinti nell'abisso.

Con l'invasione dei bot nelle nostre vite, la tensione tra noi e loro sta crescendo. A volte, sembra di precipitare verso una guerra razziale computerizzata tra cyborg nascenti e umani tradizionali. Dopo troppo tempo trascorso davanti allo schermo – mentre le mie sinapsi si riorganizzano per adattarsi al flusso di dati – non è chiaro a quale sottospecie appartengo.

Per la cronaca, sono più agnostico che un vero credente. Gli esperti di tecnologia fanno ogni sorta di promesse vuote. Prosperano proiettando poteri mistici. Ciononostante, ignorare la loro rivoluzione tecno-culturale sarebbe un grave errore.

Le aziende tecnologiche detengono il vero potere di controllo dell'informazione. Stanno letteralmente distorcendo la coscienza pubblica su vasta scala. Sul fronte militare, le forze dell'ordine hanno la capacità di farti saltare in aria dall'altra parte del mondo. Potresti ironizzare sul fatto che le forze armate statunitensi abbiano creato più ufficiali transgender che soldati cyborg. Ma se non riesci a puntare il tuo AR-15 più velocemente di quanto il loro drone possa individuarti, stai solo ridacchiando da sotto uno stivale. L'intelligenza artificiale non fa altro che rafforzare questa posizione dominante.

Nel 2018, la Defense Advanced Research Projects Agency (DARPA) statunitense ha annunciato di voler "concentrare i propri investimenti su una terza ondata di intelligenza artificiale che porterà alla creazione di macchine in grado di comprendere e ragionare in un contesto specifico". Il direttore dell'Information Innovation Office della DARPA, Brian Pierce, si è mostrato estremamente entusiasta all'idea di una "vera simbiosi tra Homo sapiens e la nascente Machina sapiens".

Un documento programmatico del Ministero della Difesa britannico del 2021 afferma: "Alla base del vantaggio militare futuro ci sarà l'integrazione efficace di esseri umani, intelligenza artificiale e robotica nei sistemi di combattimento – squadre uomo-macchina – che sfruttino le capacità delle persone e delle tecnologie per superare i nostri avversari".

Anche la Cina nutre ambizioni simili in ambito cibernetico. Così come la Russia e la NATO . "L'intelligenza artificiale è il futuro", ha affermato Vladimir Putin in una sua celebre dichiarazione. "Chiunque diventerà leader in questo campo, diventerà il dominatore del mondo".

Forse i generali stanno sprecando soldi in una guerra da nerd. Forse stanno solo giocando con dei nuovi giocattoli.

Non ci conterei.

Già ora vediamo che le intelligenze artificiali ristrette superano le capacità umane di riconoscimento di modelli nei compiti specifici per cui sono state progettate: modellazione proteica, analisi radiologica, sorveglianza del campo di battaglia e acquisizione di bersagli, solo per citarne alcuni. Un esempio lampante è la fornitura gratuita della propria intelligenza artificiale all'Ucraina da parte dell'azienda statunitense Palantir. Questo è uno dei motivi principali per cui l'Ucraina è riuscita a resistere così a lungo contro le forze russe, numericamente superiori.

"La potenza dei sistemi di guerra algoritmica avanzati è ormai tale da equivalere ad avere armi nucleari tattiche contro un avversario dotato solo di armi convenzionali", ha dichiarato al Washington Post Alex Karp, CEO di Palantir. "L'opinione pubblica tende a sottovalutarla. I nostri avversari, invece, non lo fanno più."

Nelle mani di predatori all'apice della catena alimentare, questi strumenti digitali sono letali. Quando i leader non usano la tecnologia contro i rivali, la rivolgono contro i propri cittadini. Basti pensare che il sistema di riconoscimento facciale basato sull'intelligenza artificiale di Clearview ha permesso alla polizia di rintracciare i manifestanti del 6 gennaio.

La tecnologia è potere. Lo è sempre stata.

Non tutti, però, sono allarmati. Gli scettici deridono l'idea di macchine "intelligenti". "L'IA non esiste", dicono. "È solo un algoritmo". "Se inserisci dati spazzatura, otterrai risultati spazzatura". In genere, si tratta di ex programmatori rimasti ancorati agli anni '90. Ripetono "se inserisci dati spazzatura, otterrai risultati spazzatura" così spesso che sembra siano stati programmati per dirlo.

Questi ragazzi hanno ragione. Un'intelligenza artificiale è valida solo quanto la progettazione della sua rete neurale e i dati su cui viene addestrata. In questo senso, non è molto diversa dagli esseri umani. Ma quando è efficace, è incredibilmente efficace. Se un'IA ben progettata viene addestrata a riconoscere gli estratti conto bancari, ad esempio, può rovistare tra montagne di spazzatura e trovarne uno in pochi secondi, come un Rain Man che rovista nei cassonetti per rubarti l'identità.

L'intelligenza artificiale che mi ha davvero colpito è stata AlphaZero, sviluppata da DeepMind di Google nel 2017. Programmata con le sole regole di base del gioco e il "desiderio" di vincere, questa rete neurale ha imparato a giocare a Go, a scacchi e a diversi videogiochi in poche ore. La padronanza del Go è particolarmente importante. Per decenni, gli scettici hanno insistito sul fatto che nessun computer sarebbe mai riuscito a comprendere questo antico gioco cinese. La complessità del Go, sostenevano, richiede una profonda intuizione che solo gli esseri umani possiedono. A quanto pare, si trattava di un'illusione.

AlphaZero, come il suo predecessore AlphaGo, inventa strategie efficaci che nessun essere umano ha mai concepito. E, cosa ancora più allarmante, queste menti digitali sconfiggono i maestri umani nei loro stessi giochi. Se le persone avessero un minimo di buon senso, avrebbero staccato la spina all'istante. A tutto quanto. Ma si sa, "Il progresso non si può fermare".

Il passo successivo consiste nel combinare queste specifiche capacità cognitive in un unico "cervello artificiale". Questa intelligenza artificiale generale (AGI) sarebbe sufficientemente flessibile da poter passare da un ambito all'altro, o attivare simultaneamente diversi moduli, per risolvere problemi del mondo reale.

In teoria, si potrebbero combinare qualsiasi facoltà – riconoscimento facciale, elaborazione del linguaggio naturale, modellazione sociale, sistemi di controllo robotico, algoritmi estetici – qualsiasi cosa si possa desiderare in un cervello robotico. La macchina probabilmente supererebbe gli esseri umani in tutti questi campi. Ma a prescindere dalla combinazione che si riuscisse a creare, non sarebbe del tutto umana. Né condividerebbe i nostri valori o la nostra esperienza del mondo. Sarebbe un bambino cieco e deforme scolpito nel silicio, ma dotato di una straordinaria capacità cognitiva, molto simile al Demiurgo gnostico.

Per i transumanisti, l'avvento di un'intelligenza artificiale generale (AGI) in grado di auto-migliorarsi segnerà un "momento singolare nella storia": la Singolarità . Da lì in poi, gli esseri umani tradizionali non potranno far altro che assistere al cambiamento. Se saremo fortunati.

Questo è il sogno, in ogni caso. E grandi aziende come DeepMind e OpenAI, così come le loro controparti cinesi Baidu e Tencent, sono impegnate in una corsa contro il tempo per trasformare una qualche versione in realtà. I ​​loro amministratori delegati promettono un'utopia digitale, o qualcosa di simile. Preferirebbero che vi rilassaste e non faceste domande.

Tuttavia, ci sono alcuni allarmisti che affermano che un'intelligenza artificiale fuori controllo potrebbe significare l'annientamento della razza umana. Poiché siamo i "levatori" dell'intelligenza artificiale generale (AGI), sostengono, il nostro compito principale è insegnare a questo neonato Dio informatico a essere benevolo, ad allineare i suoi valori ai nostri. Altrimenti, verremo resi schiavi o moriremo. Lo chiamano il "problema di allineamento dell'IA". Mentre varie fazioni si contendono il grado di "politicamente corretto" o "eticamente corretto" che ChatGPT può raggiungere, la situazione si fa piuttosto cupa.

Stranamente, alcuni dei lamenti più forti provengono proprio da chi lavora sull'intelligenza artificiale generale (AGI). Tra questi figurano Sam Altman ed Elon Musk (OpenAI), Demis Hassabis (DeepMind) e, dalla Cina, Ben Goertzel (SingularityNET) e il folle profeta della tecnocalypse, Hugo de Garis (Università di Xiamen).

Il transumanista di Oxford Nick Bostrom, autore del libro del 2014, ne ha spiegato il significato a un pubblico di TED composto da persone a bordo di Tesla :

Il potenziale della superintelligenza giace latente nella materia, proprio come il potere dell'atomo è rimasto latente per tutta la storia umana, in paziente attesa, fino al 1945. In questo secolo, gli scienziati potrebbero imparare a risvegliare il potere dell'intelligenza artificiale. E penso che potremmo allora assistere a un'esplosione di intelligenza.

A prescindere dai rischi esistenziali, sostengono questi uomini, qualsiasi nazione che non abbracci l'intelligenza artificiale resterà indietro rispetto a quelle che lo faranno. La stessa dinamica vale per gli individui e le organizzazioni che competono tra loro all'interno delle nazioni. In un ecosistema digitale, è la sopravvivenza del più forte tra i cyborg, con l'intelligenza artificiale presentata come un mitico Anello del Potere.

Tra tutti i futuri immaginati dai transumanisti, quello delineato da Hugo de Garis è il più agghiacciante. Ed è anche il più onesto. Molti nella Silicon Valley credono che l'intelligenza artificiale sovrumana porterà a una "abbondanza radicale" e a una conoscenza illimitata dell'universo. Da fisico e costruttore di robot, de Garis è convinto che tutte queste cose si avvereranno.

Tuttavia, egli profetizza anche che la creazione di "artiletti" – abbreviazione di "intelligenze artificiali", in pratica AGI – porterà probabilmente alla distruzione dell'umanità. Forse questi dei digitali non avranno bisogno di noi e ci schiacceranno come insetti. Oppure, altrettanto probabile, sostiene de Garis, si verificherà un evento di "gigamorte" quando gli umani si contenderanno la possibilità di crearli. Ciò significa che miliardi di persone moriranno in un lampo.

«La domanda che dominerà la politica globale del XXI ^secolo sarà: "Chi o cosa dovrebbe essere la specie dominante sul pianeta, gli articelli o gli esseri umani?"» Questo lo porta a formulare uno slogan inquietante, seppur formulato in modo confuso: «Costruiamo degli dei o costruiamo i nostri potenziali sterminatori?»

Inventando parole nuove e bizzarre come un giocatore di Scrabble indisciplinato, de Garis esplora questo conflitto nel suo libro del 2005. Prevede che scoppierà entro poche generazioni. "Questa guerra utilizzerà le armi più distruttive mai concepite, basate sulla scienza e sulla tecnologia della fine del XXI ^secolo ."

Stiamo parlando di super-bombe nucleari e armi biologiche progettate dall'intelligenza artificiale: un orizzonte oscuro brulicante di segugi robotici e sciami di nanobot.

La Guerra degli Artiletti si combatterà tra i "Terrestri", disposti a uccidere per preservare l'umanità organica, e i "Cosmisti", la cui devozione religiosa alla costruzione degli artiletti è così intensa da spingerli a morire per questa divinizzazione. Anzi, saranno disposti a vedere morire tutti per essa.

Nel XX ^secolo , i nazisti sterminarono 20 milioni di russi, i giapponesi assassinarono 20 milioni di cinesi, Stalin ne uccise 30 milioni nelle sue purghe e Mao fece morire di fame 50 milioni di contadini cinesi. Questi sono tra i più grandi crimini della storia, eppure impallidiscono al confronto con l'entità della tragedia che si verificherebbe se gli autori decidessero di annientare l'umanità. La tragedia sarebbe totale, nel senso che non rimarrebbe più alcun essere umano a piangere la scomparsa della specie.

Come fa notare de Garis, è sconcertante che un essere umano persegua un simile obiettivo sapendo che miliardi di persone potrebbero essere massacrate. Ma per i cosmisti, la creazione di macchine sovrumane è una ricerca religiosa che trascende il bene e il male. Nella tradizione degli scienziati pazzi tormentati dal senso di colpa, de Garis si schiera con quest'ultimo gruppo, incurante della gigadeath (morte di miliardi di persone):

Il mio obiettivo finale è vedere l'umanità, o almeno una parte di essa, abbracciare il Cosmismo e riuscirci costruendo artefatti veramente divini che superino di gran lunga le nostre misere capacità intellettuali e di altro genere.

Un concetto chiave in The Artilect War è quello di "dominio di specie". Dopo aver creato la vita artificiale, l'umanità si trova ad affrontare un nuovo concorrente evolutivo. Mentre alcune persone si fondono con la vita digitale come tenie in un intestino meccanico, l'umanità si dividerà in sottospecie: cyborg succhiatori di robot e umani "insignificanti".

Alla speciazione si accompagna la competizione. Basandosi sulla teoria politica ed evoluzionistica, de Garis afferma che lo spazio in cima al cumulo di escrementi è limitato. Poiché in natura non esiste l'uguaglianza, il dominio di una specie è inevitabile. Prendendo come esempio la storia umana, ciò significa violenza.

Il primo posto sarà conquistato da computer con un QI elevato che orbitano attorno al pianeta e sono "più veloci e migliori degli esseri umani di miliardi di miliardi di volte"?

Oppure sarà occupato dai Cosmisti che costruiscono e mettono in funzione queste macchine?

Oppure i Terrestri elimineranno questo culto transumano e torneranno a suonare i tamburi nella foresta?

Sembra altrettanto probabile che ci imbatteremo in una guerra nucleare con la Russia o con la Cina, risparmiandoci del tutto questa Guerra Artilect. Di gigadeath ce n'è già abbastanza anche senza un Dio Supercomputer.

Ma se riusciremo a evitare di ridurci a vicenda in polvere spaziale con le armi nucleari, potrebbe darsi che la rivalità tra superpotenze spinga l'evoluzione tecnologica, soprattutto quella militare, verso qualcosa di simile alla visione di de Garis. Immaginate una Singolarità con un botto.

In realtà, l'importanza dell'incubo di Hugo de Garis potrebbe risiedere nella sua influenza sulla cultura tecnologica cinese. Dal 2006 al 2010, ha concluso la sua carriera professionale in Cina, prima all'Università di Wuhan e poi dirigendo il Laboratorio di Cervello Artificiale all'Università di Xiamen. Fino alla pandemia, il suo stretto collaboratore Ben Goertzel dirigeva SingularityNET da Hong Kong. Questo progetto di intelligenza artificiale generale (AGI) operava in collaborazione con Hanson Robotics , anch'essa con sede a Hong Kong, il cui robot Sophia è acclamato a livello mondiale come una dea transumana.

Non si conosce l'entità del trasferimento tecnologico al Partito Comunista Cinese. Tuttavia, è ragionevole supporre che, a prescindere dalle loro intenzioni, de Garis e Goertzel abbiano contribuito all'obiettivo della Cina di superare gli Stati Uniti nel campo dell'intelligenza artificiale. Questa ambizione include il collegamento del cervello umano all'IA e la creazione di un'intelligenza artificiale generale, con particolare attenzione alle applicazioni militari.

Il numero di novembre 2021 di PRISM, pubblicato dalla National Defense University di Washington, contiene un articolo di ricerca illuminante intitolato " Il progetto cinese del cervello artificiale di 'nuova generazione' ". Non c'è dubbio che l'impulso transumanista scorra nell'anima cinese. Gli autori citano un importante ricercatore del PCC, Xu Bo, che ha rilasciato una dichiarazione al quotidiano ufficiale del Ministero della Scienza e della Tecnologia:

Come ha sottolineato il Segretario Generale Xi Jinping nello studio collettivo del Politburo, la ricerca sull'intelligenza artificiale deve esplorare "aree non presidiate". Nei settori dell'intelligenza collettiva, dell'intelligenza ibrida uomo-macchina e dell'intelligenza autonoma, esistono vaste aree non presidiate da esplorare. ... Crediamo che l'evoluzione autonoma sia un ponte dall'intelligenza artificiale debole all'intelligenza artificiale generale.

Oppure, come ha affermato Huang Tiejun, decano dell'Accademia di Intelligenza Artificiale di Pechino, durante una conferenza sul Futuro della Vita:

La razza umana è solo a una fase del suo sviluppo. Perché fermarsi? Gli esseri umani si evolvono troppo lentamente. È impossibile per gli esseri umani essere paragonati alla superintelligenza artificiale. Accadrà prima o poi, quindi perché aspettare? Anche dal punto di vista dell'umancentrismo o dell'eccezionalismo umano, la superintelligenza è necessaria per affrontare le grandi sfide che non riusciamo a risolvere. Ecco perché sostengo l'idea.

Traducendo le dichiarazioni provenienti da tutto l'establishment tecnologico cinese, gli autori del documento PRISM osservano con sarcasmo: "Altre previsioni di questo tipo sono all'ordine del giorno".

Il futuro appare incerto, ma le possibilità sono ancora infinite. Anche in questo caso, mi trovo a metà strada tra gli scettici e i veri credenti, e ammetto che la mia posizione è piuttosto tiepida.

Come gli smartphone o Internet, l'intelligenza artificiale non si rivelerà mai all'altezza delle aspettative. L'evoluzione tecnologica è una saga di bug inaspettati e conseguenze indesiderate. È piena di azioni gonfiate artificialmente, contratti governativi esagerati e progetti accademici sovrafinanziati.

Non esistono ancora auto volanti. Non esiste ancora la fusione fredda. Non esistono ancora nanobot per il controllo mentale (vero?).

Eppure, solo uno sciocco si rifiuta di vedere che gli smartphone e Internet hanno distrutto la cultura organica. Lo stesso vale per la sorveglianza di massa e la guerra con i droni. Qualunque forma assuma l'intelligenza artificiale, sono convinto che avrà un impatto simile, se non peggiore.

Potrebbe accadere che chatbot basati sull'intelligenza artificiale e schiavi sessuali virtuali strappino alcune persone dalla realtà, facendole impazzire ancora di più di quanto non lo siano già. Oppure potrebbe accadere che un esercito di cyborg potenziati dall'IA, geneticamente modificati e con chip cerebrali impiantati si abbatta su nuvole di nanobot per scatenare una guerra razziale contro ciò che resta dell'umanità.

Solo il tempo lo dirà. Tieni ben stretto il tuo foglio di alluminio e la tua polvere asciutta. E per l'amor del cielo, spegni il tuo smartphone. È così che ti fregano.

Leggi la storia completa qui ...