Alla fine, saranno i tecnocrati umani saturi di tecnologia, non i programmi, a creare le politiche e i risultati anti-umani che danneggiano l'umanità. Si nasconderanno dietro l'IA per sfuggire alla responsabilità e tutti penseranno che gli algoritmi li hanno fatti entrare.⁃ Editor TN
L'idea di piccoli gruppi di umani che hanno il controllo su alcune delle armi più potenti che siano mai state costruite è spaventosa, ma è la realtà in cui viviamo. In un futuro non così lontano, quell'incredibile potere e responsabilità potrebbero essere consegnati a AI e sistemi robotici, che sono già in fase di sviluppo attivo. In un paio di lettere aperte ai primi ministri di fastidio in Australia e Canada, centinaia di ricercatori e scienziati di intelligenza artificiale sostengono che ciò non accada.
La paura, dicono, è che la rimozione dell'elemento umano dalle decisioni di vita e di morte potrebbe inaugurare un'era distruttiva che alla fine segna la fine dell'umanità. I sistemi di armi di intelligenza artificiale sono, come affermano i ricercatori, "armi di distruzione di massa" che devono essere bandite completamente prima che possano arrecare gravi danni.
"Delegare le decisioni di vita o morte alle macchine attraversa una linea morale fondamentale, indipendentemente da quale parte le costruisca o le usi", la lettera spiega. “Giocare alla roulette russa con la vita di altri non può mai essere giustificato semplicemente sulla base dell'efficacia. Questa non è solo una questione fondamentale dei diritti umani. La decisione di vietare o impiegare armi autonome va al centro della nostra umanità. "
In un ambiente in cui i computer hanno l'ultima parola in merito all'opportunità o meno di compiere atti ostili - anche con il pretesto di difendere i propri territori o proteggere le popolazioni che sono programmati per proteggere - i conflitti potrebbero intensificarsi molto più velocemente di quanto gli umani abbiano mai visto. Settimane, mesi o persino anni di postura e diplomazia potrebbero trasformarsi in semplici minuti o addirittura secondi, con i missili che volano prima che gli umani possano persino iniziare a intervenire. E poi, ovviamente, c'è il problema dell'IA manipolata in modi imprevisti.
"Queste saranno armi di distruzione di massa", affermano gli scienziati. “Un programmatore sarà in grado di controllare un intero esercito. Ogni altra arma di distruzione di massa è stata bandita: armi chimiche, armi biologiche, persino armi nucleari. Dobbiamo aggiungere armi autonome all'elenco di armi che sono moralmente inaccettabili da usare. "
wpDiscuz