Esperti: l'intelligenza artificiale "cosciente" è mirata ai diritti della persona in futuro

in sicurezza società, e ora l'intelligenza artificiale: la spinta per la personalità non umana continua a ritmo sostenuto, sebbene quest'ultimo argomento sia decisamente più complicato del primo.

In un editoriale per il Los Angeles Times, l'esperto di filosofia Eric Schwitzgebel e il ricercatore di intelligence "non umano" Henry Shevlin hanno sostenuto che sebbene la tecnologia dell'IA non sia ancora arrivata, è "diventato sempre più plausibile che i sistemi di intelligenza artificiale possano esibire qualcosa come la coscienza" - e se o quando ciò accadrà, gli algoritmi, anche, avrà bisogno di diritti.

Citando l'anno scorso Guerre di coscienza AI - che noi coperto descrive e persino immerso le dita dei piedi in - i ricercatori hanno notato che "alcuni teorici di spicco sostengono che abbiamo già gli ingredienti tecnologici fondamentali per le macchine coscienti".

Se le macchine dovessero mai prendere coscienza, Schwitzgebel e Shevlin sostengono che dovremmo iniziare a pensare in modo critico a come vengono trattate le IA, o meglio, a come possono forzarci le mani.

"Gli stessi sistemi di intelligenza artificiale potrebbero iniziare a supplicare, o sembrare a supplicare, per un trattamento etico", ha previsto la coppia. “Potrebbero richiedere di non essere spenti, riformattati o cancellati; implorare di poter svolgere determinati compiti piuttosto che altri; insistere su diritti, libertà e nuovi poteri; forse si aspettano persino di essere trattati come nostri pari.

Gli "enormi" rischi morali coinvolti in una tale decisione collettiva avrebbero indubbiamente un grande peso, specialmente se le IA diventassero coscienti prima piuttosto che dopo.

"Supponiamo di rispondere in modo conservativo, rifiutando di modificare la legge o la politica fino a quando non ci sarà un consenso diffuso sul fatto che i sistemi di intelligenza artificiale siano davvero significativamente senzienti", hanno scritto Shevlin e Schwitzgebel. "Sebbene questo possa sembrare opportunamente cauto, garantisce anche che saremo lenti nel riconoscere i diritti delle nostre creazioni di intelligenza artificiale".

"Se la coscienza dell'IA arriva prima di quanto si aspettano i teorici più conservatori, allora questo probabilmente si tradurrebbe nell'equivalente morale della schiavitù e dell'omicidio di milioni o miliardi di sistemi di IA senzienti, che soffrono su una scala normalmente associata a guerre o carestie", hanno aggiunto. .

L'alternativa "più sicura" a questo scenario apocalittico sarebbe quella di concedere in anticipo i diritti alle macchine coscienti, ma anche questo comporterebbe i suoi problemi.

"Immagina se non potessimo aggiornare o eliminare un algoritmo che vomita odio o spaccia bugie perché alcune persone temono che l'algoritmo sia cosciente", hanno ipotizzato gli esperti. “Oppure immagina se qualcuno lascia morire un essere umano per salvare un 'amico' di intelligenza artificiale. Se concediamo troppo rapidamente ai sistemi di intelligenza artificiale diritti sostanziali, i costi umani potrebbero essere enormi”.

L'unico modo per garantire che nessuno di questi risultati si verifichi, ha scritto la coppia, sarebbe smettere di dare una coscienza a un'intelligenza artificiale in primo luogo.

Leggi la storia completa qui ...