L'onnipotenza sta arrivando e il mondo non è pronto

In Il futuro della violenza, Benjamin Wittes e Gabriella Blum discutono di uno scenario ipotetico inquietante. Un attore solitario in Nigeria, "sede di numerose attività di spamming e frodi online", inganna donne e ragazze a scaricare malware che gli consente di monitorare e registrare la loro attività, ai fini del ricatto.

La vera storia riguardava un uomo californiano che l'FBI alla fine catturò e mandò in prigione per sei anni, ma se fosse stato altrove nel mondo avrebbe potuto cavarsela. Molti paesi, come notano Wittes e Blum, "non hanno né la volontà né i mezzi per monitorare il crimine informatico, perseguire i criminali o estradare sospetti negli Stati Uniti". 

La tecnologia, in altre parole, consente ai criminali di colpire chiunque ovunque e, a causa della democratizzazione, sempre più su vasta scala. Le tecnologie biologiche, nano e cyber emergenti stanno diventando sempre più accessibili. Lo scienziato politico Daniel Deudney ha una parola su ciò che può derivare: "onnivolenza".

Il rapporto tra assassini e uccisi, o "rapporto K / K", sta diminuendo. Ad esempio, lo scienziato informatico Stuart Russell ha vividamente descritta come un piccolo gruppo di agenti malintenzionati potrebbe impegnarsi nell'onnipotenza: "Un quadricottero molto, molto piccolo, un diametro di un pollice può portare una carica a forma di uno o due grammi", dice. "Puoi ordinarli da un produttore di droni in Cina. Puoi programmare il codice per dire: "Qui ci sono migliaia di fotografie dei tipi di cose che voglio prendere di mira". Un grammo carica sagomata può fare un buco in nove millimetri di acciaio, quindi presumibilmente puoi anche fare un buco nella testa di qualcuno.

Puoi inserirne circa tre milioni in un semirimorchio. Puoi guidare I-95 con tre camion e avere 10 milioni di armi che attaccano New York City. Non devono essere molto efficaci, solo 5 o 10% devono trovare l'obiettivo. ”I produttori produrranno milioni di questi droni, disponibili per l'acquisto proprio come con le pistole ora, sottolinea Russell,“ tranne milioni di le pistole non contano se non hai un milione di soldati. Hai solo bisogno di tre ragazzi per scrivere il programma e lanciarlo. ”In questo scenario, il rapporto K / K potrebbe essere forse 3 / 1,000,000, assumendo una precisione del 10 percento e solo una singola carica da un grammo per drone. 

Attenzione: questo video è drammatizzato e non è mai successo!

È completamente — e terribilmente — senza precedenti. Il terrorista o psicopatico del futuro, tuttavia, non avrà solo Internet o droni, chiamati "macelli" in questo video dal Future of Life Institute — ma anche biologia sintetica, nanotecnologia e sistemi avanzati di intelligenza artificiale a loro disposizione. Questi strumenti rendono banale il caos che attraversa i confini internazionali, il che solleva la domanda: le tecnologie emergenti renderanno obsoleto il sistema statale?

È difficile capire perché no. Ciò che giustifica l'esistenza dello stato, sosteneva il filosofo inglese Thomas Hobbes, è un "contratto sociale". Le persone rinunciano a certe libertà in cambio della sicurezza fornita dallo stato, per cui lo stato agisce come un "arbitro" neutrale che può intervenire quando le persone ottengono nelle controversie, punire le persone che rubano e uccidono e far rispettare i contratti firmati dalle parti con interessi in conflitto. 

Il problema è che se qualcuno ovunque può attaccare chiunque altro, allora gli stati diventeranno - e stanno diventando - incapaci di adempiere al loro dovere primario di arbitri. È una tendenza verso l'anarchia, "la guerra di tutti contro tutti", come diceva Hobbes, in altre parole una condizione per tutti coloro che vivono nella costante paura di essere danneggiati dai loro vicini. Anzi, in un recente carta, "L'ipotesi del mondo vulnerabile", pubblicata in Politica globale, il filosofo di Oxford Nick Bostrom sostiene che l'unico modo per difendersi da una catastrofe globale è quello di impiegare un sistema di sorveglianza universale e invasivo, quello che chiama un "Panopticon ad alta tecnologia".

Distopico del suono? Lo fa sicuramente per me. "La creazione e il funzionamento del Panopticon ad alta tecnologia richiederebbe ingenti investimenti", scrive Bostrom, "ma grazie al calo dei prezzi delle telecamere, della trasmissione dei dati, dell'archiviazione e dell'informatica e ai rapidi progressi nell'analisi dei contenuti abilitati per l'IA, potrebbe presto diventare tecnologicamente fattibile e abbordabile ”. Bostrom è ben consapevole degli aspetti negativi: gli attori corrotti in uno stato potrebbero sfruttare questa sorveglianza per fini totalitari o gli hacker potrebbero ricattare vittime ignare. Tuttavia, il fatto è che potrebbe ancora essere un'opzione migliore rispetto a subire una catastrofe globale dopo l'altra. 

In che modo le società possono contrastare l'onnivolenza? Uno   potrebbe essere una macchina superintelligente, essenzialmente un algoritmo estremamente potente, progettato specificamente per governare in modo equo. Potremmo quindi mettere l'algoritmo in carica politica e, nella misura in cui governa come qualcosa di simile a un "re filosofo", non preoccuparci costantemente del fatto che i dati raccolti vengano abusati o abusati. Certo, questa è una proposta fantastica. Anche l'uso nel mondo reale dell'intelligenza artificiale nel sistema giudiziario è irto di difficoltà problemi. Ma a questo punto, abbiamo un'idea migliore per prevenire il collasso del sistema statale sotto il peso di un ampio potenziamento tecnologico?

Leggi la storia completa qui ...