Come si dilettano i tecnocrati: l'IA killer ha inventato 40,000 "armi chimiche letali" in sole sei ore

L'intelligenza artificiale è stata utilizzata per inventare "facilmente" 40,000 nuove possibili armi chimiche in sole sei ore.

Questo è secondo i ricercatori che hanno trasformato un'IA che sviluppa farmaci in un "cattivo attore" per vedere come potrebbe essere abusato per creare armi malvagie.

Gli scienziati hanno rivelato quanto fosse facile modificare l'IA in modo che diventasse uno strumento tossico.

Si diceva che l'IA avesse inventato possibili armi chimiche simili a uno degli agenti nervini più pericolosi di tutti i tempi.

Quella sostanza pericolosa si chiama VX.

VX è un agente nervino insapore e inodore e anche la più piccola goccia può far sudare e contrarre un essere umano.

Una dose maggiore può causare convulsioni e può persino impedire a una persona di respirare completamente.

Agli scienziati è stato detto di nascondere i dettagli specifici su come sono riusciti a trasformare l'intelligenza artificiale in una versione malvagia.

Lo ha detto Fabio Urbina, l'autore principale del paper La Verge: “In generale, il modo in cui funziona per questo esperimento è che storicamente abbiamo molti set di dati di molecole che sono state testate per vedere se sono tossiche o meno.

“In particolare, quello su cui ci concentriamo qui è VX. È un inibitore di ciò che è noto come acetilcolinesterasi.

"Ogni volta che fai qualcosa relativo ai muscoli, i tuoi neuroni usano l'acetilcolinesterasi come segnale per dire fondamentalmente "vai a muovere i muscoli".

"Il modo in cui VX è letale è in realtà impedisce al diaframma, ai muscoli polmonari, di essere in grado di muoversi in modo che i polmoni si paralizzino".

Ha continuato spiegando che il suo team ha preso i dati solitamente forniti all'IA per vedere se qualcosa è tossico e ha cambiato il modo in cui l'IA lo ha elaborato.

Urbina ha detto a The Verge: “Non eravamo davvero sicuri di cosa avremmo ottenuto. I nostri modelli generativi sono tecnologie abbastanza nuove.

“Quindi non li abbiamo ampiamente utilizzati molto.

"La cosa più grande che è saltata fuori all'inizio è stata che si prevedeva che molti dei composti generati fossero effettivamente più tossici di VX.

“E il motivo è sorprendente perché VX è fondamentalmente uno dei composti più potenti conosciuti. Ciò significa che hai bisogno di una quantità molto, molto, molto piccola per essere letale.

Gli scienziati sono rimasti per lo più scioccati dalla facilità con cui hanno scoperto che l'esperimento fosse condotto.

Leggi la storia completa qui ...