I tecnocrati hanno creato un mostro che ora si rendono conto che potrebbe trasformare e distruggere i loro creatori; così, vengono creati "giochi di guerra" per imparare a sconfiggerlo: l'intelligenza artificiale. Questo è un altro esempio di un tentativo di "salvare il mondo" che si è trasformato in uno scenario di "distruzione del mondo". ⁃ Editor TN
I booster dell'intelligenza artificiale prevedono un nuovo mondo coraggioso di macchine volanti e cure per il cancro. I detrattori si preoccupano di un futuro in cui gli umani sono schiavi di una razza malvagia di signori robotici. Lo scienziato veterano di intelligenza artificiale Eric Horvitz e il guru di Doomsday Clock Lawrence Krauss, alla ricerca di una via di mezzo, hanno riunito un gruppo di esperti nel deserto dell'Arizona per discutere il peggio che potrebbe accadere e come fermarlo.
Il loro seminario si è svolto lo scorso fine settimana presso l'Arizona State University con il finanziamento del co-fondatore di Tesla Inc. Elon Musk e del co-fondatore di Skype Jaan Tallinn. Ufficialmente soprannominato "Envisioning and Addressing Adverse AI Outcomes", era una sorta di gioco apocalittico dell'IA che ha organizzato circa 40 scienziati, esperti di sicurezza informatica e vincitori delle politiche in gruppi di attaccanti - la squadra rossa - e difensori - squadra blu - giocando con l'IA scenari molto sbagliati, che vanno dalla manipolazione del mercato azionario alla guerra globale.
Horvitz è ottimista - una buona cosa perché l'intelligenza artificiale è il lavoro della sua vita - ma alcuni altri sostenitori del progetto più distopici sembravano trovare la sua visione troppo positiva quando i piani per questo evento sono iniziati circa due anni fa, ha detto Krauss, un teorico fisico che dirige il progetto Origins dell'ASU, il programma che gestisce il workshop. Tuttavia Horvitz ha affermato che affinché queste tecnologie possano progredire con successo e guadagnare un'ampia fiducia da parte del pubblico, tutte le preoccupazioni devono essere pienamente espresse e affrontate.
"C'è un enorme potenziale per l'intelligenza artificiale di trasformare tanti aspetti della nostra società in così tanti modi. Allo stesso tempo, ci sono aspetti difficili e potenziali svantaggi, come qualsiasi tecnologia ", ha affermato Horvitz, amministratore delegato del Laboratorio di ricerca di Microsoft a Redmond, Washington. "Per ottenere il massimo dal rialzo, dobbiamo anche pensare ai possibili risultati in modo più dettagliato rispetto a prima e pensare a come affrontarli".
Ai partecipanti sono stati dati "compiti a casa" per inviare le voci per gli scenari peggiori. Dovevano essere realistici - basati sulle tecnologie attuali o su quelle che sembrano possibili - e da cinque a 25 anni nel futuro. I partecipanti con gli incubi "vincenti" sono stati scelti per guidare i pannelli, che hanno visto la partecipazione di circa quattro esperti in ciascuna delle due squadre per discutere l'attacco e come prevenirlo.
wpDiscuz