La Super-AI potrebbe emergere come il Coronavirus per distruggere la civiltà

Oren EtzioniOren Etzioni
Per favore, condividi questa storia!
Gli stessi tecnocrati che ci hanno portato l'IA in primo luogo stanno ora riflettendo se una "super-IA" potrebbe improvvisamente emergere o meno che distruggerebbe la civiltà. Per una risposta più affidabile, forse dovrebbero chiedere ad Alexa. ⁃ TN Editor

Il CEO dell'Allen Institute for AI, il professor Oren Etzioni, ha emesso una serie di potenziali segnali di avvertimento che ci avviserebbero della "super-intelligenza" dietro l'angolo.

Gli umani devono essere pronti per i segni della super-intelligenza robotica ma dovrebbero avere abbastanza tempo per affrontarli, ha avvertito un grande scienziato informatico.

Oren Etzioni, CEO dell'Allen Institute for AI, ha scritto un recente documento dal titolo: “How to know if intelligenza artificiale sta per distruggere la civiltà. "

Ha scritto: “Potremmo svegliarci una mattina esterrefatti dall'emergere di un'intelligenza artificiale super potente, con conseguenze disastrose?

“Libri come Superintelligence di Nick Bostrom e Life 3.0 di Max Tegmark, così come articoli più recenti, sostengono che la superintelligenza malevola è un rischio esistenziale per l'umanità.

“Ma si può speculare all'infinito. È meglio porre una domanda più concreta ed empirica: cosa ci avviserebbe che la super intelligenza è davvero dietro l'angolo? "

Ha paragonato i segnali di avvertimento ai canarini nelle miniere di carbone, che sono stati utilizzati per rilevare il monossido di carbonio perché sarebbero crollati.

Il prof. Etzioni ha affermato che questi segnali di avvertimento arrivano quando i programmi di intelligenza artificiale sviluppano una nuova capacità.

Ha continuato per il MIT Review: “Il famoso test di Turing potrebbe servire da canarino? Il test, inventato da Alan Turing nel 1950, postula che l'intelligenza artificiale a livello umano sarà raggiunta quando una persona non è in grado di distinguere la conversazione con un essere umano dal conversare con un computer.

“È un test importante, ma non è un canarino; è piuttosto il segno che l'intelligenza artificiale a livello umano è già arrivata.

“Molti informatici credono che se quel momento arriverà, la superintelligenza seguirà rapidamente. Abbiamo bisogno di più traguardi intermedi ".

Ma ha avvertito che la "formulazione automatica dei problemi di apprendimento" sarebbe stata la prima canarino, seguita dalle auto a guida autonoma.

Leggi la storia completa qui ...

Sottoscrivi
Notifica
ospite

1 Commento
il più vecchio
Nuovi Arrivi I più votati
Feedback in linea
Visualizza tutti i commenti
Elle

Che cos'è la "formulazione automatica dei problemi di apprendimento"? Sono andato al link ma il sito vuole informazioni che non ero disposto a fornire.