Joe Allen: Countdown to Gigadeath – Dalla corsa agli armamenti dell'IA alla guerra degli artigli

Per i veri credenti, l'intelligenza artificiale diventerà inevitabilmente sovrumana. Secondo i loro miti, siamo alla deriva in un cosmo senza Dio. Quindi sta a noi creare divinità digitali. O meglio, tocca a pochi fanatici della tecnologia crearli. Il resto di noi può inginocchiarsi davanti al loro altare o essere spinto nell'abisso.

Mentre i robot sciamano nelle nostre vite, la tensione tra noi e loro sta crescendo. Alcuni giorni, sembra che ci stiamo precipitando verso una guerra razziale computerizzata tra cyborg nascenti e umani ereditari. Dopo troppo tempo sullo schermo, mentre le mie sinapsi si riorganizzano per adattarsi ai dati che arrivano, non è chiaro a quale sottospecie appartengo.

Per la cronaca, sono più agnostico che vero credente. I tecnici fanno ogni sorta di vuote promesse. Prosperano proiettando poteri mistici. Anche così, ignoriamo la loro rivoluzione tecno-culturale a nostro rischio e pericolo.

Le corporazioni tecnologiche detengono il vero potere del controllo delle informazioni. Stanno letteralmente deformando la coscienza pubblica su larga scala. Dal punto di vista militare, le forze dell'ordine hanno la capacità di farti saltare in aria dall'altra parte del mondo. Potresti deridere che le forze armate statunitensi hanno creato più ufficiali trans che soldati cyborg. Ma se non riesci a puntare il tuo AR-15 più velocemente di quanto il loro drone possa affinare, stai ridacchiando da sotto uno stivale. L'intelligenza artificiale rafforza solo quel punto d'appoggio.

Nel 2018, la US Defense Advanced Research Projects Agency ha annunciato sta "concentrando i propri investimenti su una terza ondata di intelligenza artificiale che produce macchine in grado di comprendere e ragionare nel contesto". Il direttore dell'Information Innovation Office della DARPA, Brian Pierce, lo è selvaggiamente entusiasta su una "vera simbiosi tra Homo sapiens e l'emergente Machina sapiens".

A 2021 white paper del Ministero della Difesa del Regno Unito afferma: "Al centro del futuro vantaggio militare ci sarà l'effettiva integrazione di esseri umani, intelligenza artificiale e robotica nei sistemi di guerra - squadre uomo-macchina - che sfruttano le capacità delle persone e delle tecnologie per superare i nostri avversari. "

Cina ha ambizioni cyborg simili. Quindi fallo Russia e NATO . "L'intelligenza artificiale è il futuro", ha notoriamente proclamato Vladimir Putin. "Chi diventa il leader in questa sfera diventerà il dominatore del mondo."

Forse i generali stanno sprecando soldi in guerre di geek. Forse stanno solo giocando con nuovi giocattoli.

Non ci conterei.

Vediamo già che le IA ristrette superano il riconoscimento del modello umano nei compiti specifici per cui sono progettate: modellazione delle proteine, analisi radiologiche, sorveglianza del campo di battaglia e acquisizione del bersaglio, solo per citarne alcuni. Caso in questione, l'appaltatore della difesa statunitense Palantir fornisce gratuitamente la propria intelligenza artificiale all'Ucraina. È una delle ragioni principali per cui hanno resistito così a lungo contro le più grandi forze russe.

"Il potere dei sistemi avanzati di guerra algoritmica è ora così grande che equivale a disporre di armi nucleari tattiche contro un avversario con solo armi convenzionali", ha dichiarato Alex Karp, CEO di Palantir. detto l' Washington Post. “Il grande pubblico tende a sottovalutare questo. I nostri avversari non lo fanno più”.

Nelle mani di apicali predatori d'élite, questi strumenti digitali sono terribilmente seri. Quando i leader non utilizzano la tecnologia contro i rivali, la rivolgono ai propri cittadini. Ricorda che il riconoscimento facciale Clearview AI abilitato la polizia per rintracciare i manifestanti del 6 gennaio.

La tecnologia è potere. Lo è sempre stato.

Non tutti però sono allarmati. I dubbiosi si fanno beffe della nozione di macchine "intelligenti". "L'intelligenza artificiale non esiste", dicono. "È solo un algoritmo." "Rifiuti dentro, rifiuti fuori". In genere, sono ex programmatori che vivono ancora negli anni '90. Ripetono "spazzatura dentro, spazzatura fuori" così spesso, è come se fossero programmati per dirlo.

Questi ragazzi hanno ragione. Un'intelligenza artificiale è valida solo quanto il design della sua rete neurale e i dati su cui è addestrata. Non è diverso dagli umani in quel modo. Ma quando è buono, è spaventosamente buono. Se un'intelligenza artificiale solida è addestrata a riconoscere gli estratti conto bancari, ad esempio, può scavare tra montagne di immondizia e trovarne uno in pochi secondi, come un Rain Man che si tuffa nei cassonetti per rubare la tua identità.

L'intelligenza artificiale che mi ha scosso è stata AlphaZero, sviluppata da DeepMind di Google nel 2017. Programmata solo con regole di gioco di base e il "desiderio" di vincere, questa rete neurale ha insegnato a se stesso per giocare a Go, scacchi e una serie di videogiochi in poche ore. La padronanza di Go è particolarmente importante. Per decenni, gli scettici hanno insistito sul fatto che nessun computer avrebbe afferrato questo antico gioco cinese. La complessità di Go, hanno affermato, richiede una profonda intuizione che solo gli umani possiedono. Si scopre che era un pio desiderio.

AlphaZero, come il suo predecessore AlphaGo, inventa strategie efficaci a cui nessun essere umano ha mai pensato. E la cosa più allarmante, queste menti digitali schiacciare maestri umani ai propri giochi. Se le persone avessero avuto un minimo di buon senso, avrebbero staccato la spina in quel momento. Su tutto. Ma sai cosa dicono: "Non puoi fermare il progresso".

Il prossimo passo è combinare queste capacità cognitive ristrette in un singolo "cervello artificiale". Questo intelligenza generale artificiale (AGI) sarebbe abbastanza flessibile da passare da un dominio all'altro, o attuare vari moduli contemporaneamente, per risolvere i problemi del mondo reale.

In teoria, si potrebbe mettere insieme qualsiasi combinazione di facoltà - riconoscimento facciale, elaborazione del linguaggio naturale, modellazione sociale, sistemi di controllo robotico, algoritmi estetici - qualsiasi cosa si possa desiderare in un cervello robotico. La macchina probabilmente supererebbe gli umani in tutte queste aree. Ma non importa quale combinazione ti sia venuta in mente, non sarebbe completamente umana. Né condividerebbe i nostri valori o la nostra esperienza del mondo. Sarebbe un bambino cieco e deforme inciso nel silicio, ma con un superbo potere cognitivo, molto simile al Demiurgo gnostico.

Per i transumanisti, l'avvento di un AGI che si auto-migliora segnerà un "momento singolare nella storia" - il Singolarità. Da lì, gli umani legacy sono solo per il viaggio. Se siamo fortunati.

Questo è il sogno, comunque. E grandi aziende come DeepMind e OpenAI, così come le loro controparti cinesi di Baidu e Tencent, lo sono pneumatici per rendere una versione una realtà. I loro amministratori delegati promettono la promessa di un'utopia digitale o di qualche approssimazione. Preferirebbero che ti rilassassi e non facessi domande.

Tuttavia, ci sono alcuni allarmisti che affermano che l'IA in fuga potrebbe significare l'annientamento della razza umana. Poiché siamo ostetriche dell'AGI, consigliano, il nostro compito principale è insegnare a questo dio del computer infantile a essere benevolo, ad allineare i suoi valori con i nostri. Altrimenti, diventiamo schiavi o moriamo. Lo chiamano il "problema di allineamento dell'IA". Mentre varie fazioni combattono su come ChatGPT "svegliato" o "basato" possa essere, sembra piuttosto cupo.

Stranamente, alcune delle chiamate di allarme più rumorose provengono da coloro che lavorano su AGI. Includono Sam Altman ed Elon Musk (OpenAI), Demis Hassabis (DeepMind) e operano fuori dalla Cina, Ben Goertzel (SingularityNET) e il folle profeta della tecnocalisse, Hugo de Garis (Università di Xiamen).

Il transumanista di Oxford Nick Bostrom, autore del libro del 2014, ha spiegato il significato di una guida Tesla pubblico di TED:

Il potenziale della superintelligenza giace dormiente nella materia, proprio come il potere dell'atomo è rimasto dormiente nel corso della storia umana, aspettando pazientemente fino al 1945. In questo secolo, gli scienziati potrebbero imparare a risvegliare il potere dell'intelligenza artificiale. E penso che potremmo assistere a un'esplosione di intelligence.

Indipendentemente dai rischi esistenziali, sostengono questi uomini, qualsiasi nazione che non riesca ad abbracciare l'IA rimarrà indietro rispetto a coloro che lo fanno. La stessa dinamica vale per gli individui e le organizzazioni che competono l'uno contro l'altro all'interno delle nazioni. In un ecosistema digitale, è la sopravvivenza dei cyborg più adatti, con l'intelligenza artificiale tenuta come un mitico anello del potere.

Di tutti i futuri proiettati dai transumanisti, quello evocato da Hugo de Garis è il più raccapricciante. È anche il più onesto. Molti nella Silicon Valley credono che l'intelligenza delle macchine sovrumane porterà a "un'abbondanza radicale" e a una conoscenza illimitata dell'universo. Come fisico e costruttore di robot, de Garis crede che tutte queste cose si avvereranno.

Tuttavia, profetizza anche che la creazione di "articoli" - abbreviazione di "intelletti artificiali"; fondamentalmente AGI - probabilmente porterà alla distruzione dell'umanità. Forse questi dei digitali non avranno bisogno di noi e ci schiacciano come insetti. O altrettanto probabile, sostiene de Garis, si verificherà un evento di "gigadeath" mentre gli umani litigano per decidere se crearli in primo luogo. Ciò significa che miliardi muoiono in un lampo.

“La domanda che dominerà 21^st politica globale del secolo sarà: 'Chi o cosa dovrebbe essere la specie dominante sul pianeta, artigli o esseri umani?'” Questo lo porta a formulare uno slogan inquietante, anche se formulato in modo confuso: “Costruiamo dei o costruiamo il nostro potenziali disinfestatori?”

Inventando nuove parole stravaganti come un ribelle giocatore di Scarabeo, de Garis esplora questo conflitto nel suo libro del 2005 Si aspetta che scoppi in poche generazioni. "Questa guerra utilizzerà le armi più distruttive mai concepite, basate sulla fine del 21^st scienza e tecnologia del secolo”.

Stiamo parlando di super-armi nucleari e armi biologiche progettate dall'intelligenza artificiale: un orizzonte oscuro brulicante di segugi infernali robotici e sciami di nanobot.

La Guerra degli Artigli sarà combattuta tra i "Terrestri", che ucciderebbero per preservare l'umanità organica, ei "Cosmisti", la cui devozione religiosa per costruire artigli è così intensa, saranno disposti a morire per questa divinizzazione. In effetti, saranno disposti a vedere tutti morire per questo:

Nel 20^th secolo, i nazisti spazzarono via 20 milioni di russi, i giapponesi assassinarono 20 milioni di cinesi, Stalin uccise 30 milioni nelle sue purghe e Mao fece morire di fame 50 milioni di contadini cinesi. Questi sono tra i più grandi crimini della storia, eppure impallidiscono rispetto alle dimensioni della tragedia se mai gli articoli decidessero di spazzare via l'umanità. La tragedia sarebbe totale nel senso che non ci sarebbero più esseri umani a piangere la scomparsa della specie.

Come osserva de Garis, è sorprendente che qualsiasi essere umano persegua un tale obiettivo sapendo che miliardi potrebbero essere massacrati. Ma per i cosmisti, la creazione di macchine sovrumane è una ricerca religiosa al di là del bene e del male. Nella tradizione degli scienziati pazzi sconvolti dal senso di colpa, de Garis si pone in quest'ultimo campo, al diavolo la morte:

Il mio obiettivo finale è vedere l'umanità, o almeno una parte dell'umanità, diventare Cosmista e farlo con successo costruendo artigli veramente divini che torreggiano al di sopra delle nostre meschine capacità intellettuali umane e di altro tipo.

Un concetto chiave in La Guerra degli Artigli è "dominanza di specie". Avendo creato la vita artificiale, l'umanità affronta un nuovo concorrente evolutivo. Mentre alcune persone si fondono con la vita digitale come tenie in un intestino meccanico, l'umanità si dividerà in sottospecie: cyborg succhia-bot e umani "gracili".

Insieme alla speciazione arriva la concorrenza. Attingendo alla teoria politica ed evolutiva, de Garis afferma che c'è solo così tanto spazio in cima al mucchio di merda. Poiché l'uguaglianza non esiste in natura, il dominio delle specie è inevitabile. Con la storia umana come nostra guida, ciò significa violenza.

Il primo posto sarà preso dai computer con QI elevato che orbitano attorno al pianeta e sono "più veloci e migliori degli umani per fattori di trilioni di trilioni"?

O sarà occupato dai cosmisti che costruiscono e distribuiscono queste macchine?

O i terrestri uccideranno questo culto transumano e torneranno a battere i tamburi nella foresta?

Sembra probabile che ci imbatteremo in una guerra nucleare con la Russia o la Cina, risparmiandoci del tutto questa guerra di artigli. C'è un sacco di giga-morte in giro senza un Super Computer God.

Ma se riusciamo a evitare di annientarci a vicenda nella polvere spaziale, potrebbe essere che la rivalità tra superpotenze guiderà l'evoluzione tecnologica, in particolare la tecnologia militare, verso qualcosa che assomigli alla visione di de Garis. Pensalo come una singolarità con il botto.

In realtà, l'importanza dell'incubo di Hugo de Garis potrebbe essere la sua influenza sulla cultura tecnologica cinese. Dal 2006 al 2010, ha completato la sua carriera professionale in Cina, prima presso l'Università di Wuhan, poi dirigendo l'Artificial Brain Lab presso l'Università di Xiamen. Fino alla pandemia, il suo stretto collega Ben Goertzel ha corso SingularityNET fuori Hong Kong. Questo progetto AGI ha funzionato in collaborazione con Hanson Robotica- sempre con sede a Hong Kong - il cui robot Sophia è esaltato come una dea transumana sulla scena mondiale.

L'entità del trasferimento di tecnologia al Partito Comunista Cinese è sconosciuta. Ma è ragionevole presumere che, qualunque siano le loro intenzioni, de Garis e Goertzel abbiano contribuito all'obiettivo della Cina di superare gli Stati Uniti nell'intelligenza artificiale. Questa ambizione include il collegamento dei cervelli umani all'intelligenza artificiale e la creazione di un'intelligenza generale artificiale, con un occhio di riguardo alle applicazioni militari.

Il volume del novembre 2021 di PRISM, pubblicato dalla National Defense University di DC, presenta un documento di ricerca che apre gli occhi, “Il progetto AI-Brain cinese di "nuova generazione"..” Non c'è dubbio che l'impulso transumano attraversi l'anima cinese. Gli autori citano un importante ricercatore del PCC, Xu Bo, parlando al giornale ufficiale del Ministero della Scienza e della Tecnologia:

Come ha sottolineato il segretario generale Xi Jinping nello studio collettivo del Politburo, la ricerca sull'intelligenza artificiale deve esplorare "aree senza equipaggio". Nelle aree dell'intelligenza dello sciame, dell'intelligenza ibrida uomo-macchina e dell'intelligenza autonoma, ci sono vaste aree senza equipaggio da esplorare. … Crediamo che l'evoluzione autonoma sia un ponte dall'intelligenza artificiale debole all'intelligenza artificiale generale.

Oppure, come ha detto il preside dell'Accademia di Intelligenza Artificiale di Pechino, Huang Tiejun, a una conferenza sul futuro della vita:

La nostra razza umana è solo a uno stadio. Perché fermarsi? Gli esseri umani si evolvono troppo lentamente. È impossibile per gli umani essere paragonati alla superintelligenza basata sulle macchine. Accadrà prima o poi, quindi perché aspettare? Anche dal punto di vista del centrismo umano o dell'eccezionalismo umano, è necessaria una superintelligenza per affrontare le grandi sfide che non riusciamo a capire. Ecco perché sostengo l'idea.

Traducendo dichiarazioni provenienti da tutto l'establishment tecnologico cinese, gli autori del documento PRISM osservano seccamente: "Altri pronostici di questo tipo sono all'ordine del giorno".

Il futuro sembra cupo, ma le possibilità sono ancora aperte. Ancora una volta, sono da qualche parte tra i dubbiosi e i veri credenti, e lo ammetto, è una tiepida siepe.

Come gli smartphone o Internet, l'intelligenza artificiale non funzionerà mai come pubblicizzato. L'evoluzione tecnologica è una saga di bug imprevisti e conseguenze impreviste. È pieno di azioni pompate, contratti governativi eccessivamente pubblicizzati e progetti accademici sovrafinanziati.

Non ci sono macchine volanti (ancora). Non c'è (ancora) la fusione fredda. Non ci sono nanobot per il controllo mentale (giusto?).

Tuttavia, solo uno stupido si rifiuta di vedere che gli smartphone e Internet hanno fatto a pezzi la cultura organica. Lo stesso vale per la sorveglianza di massa e la guerra con i droni. Qualunque sia la forma che l'IA assumerà alla fine, sono convinto che avrà impatti simili, se non peggiori.

Potrebbe essere che i chatbot di intelligenza artificiale e le schiave sessuali virtuali staccheranno alcune persone dalla realtà reale, facendole impazzire più di quanto non siano già. Oppure potrebbe essere che un esercito di cyborg potenziati dall'intelligenza artificiale, geneticamente modificati e dotati di chip cerebrale scenderà su nuvole di nanobot per condurre una guerra razziale contro ciò che resta degli umani ereditari.

Solo il tempo lo dirà. Tieni la carta stagnola stretta e la polvere asciutta. E per l'amor di Dio, spegni lo smartphone. È così che ti prendono.

Leggi la storia completa qui ...