I ricercatori scoprono che i programmi di intelligenza artificiale stanno imparando pregiudizi razziali e di genere

Uno strumento di intelligenza artificiale che ha rivoluzionato la capacità dei computer di interpretare il linguaggio di tutti i giorni ha dimostrato di mostrare sorprendenti pregiudizi di genere e razziali.

Le scoperte sollevano lo spettro delle disuguaglianze sociali esistenti e i pregiudizi vengono rafforzati in modi nuovi e imprevedibili poiché un numero crescente di decisioni che incidono sulla nostra vita quotidiana viene ceduto agli automi.

Negli ultimi anni, la capacità di programmi come Google Translate di interpretare la lingua è notevolmente migliorata. Questi guadagni sono stati grazie alle nuove tecniche di apprendimento automatico e alla disponibilità di enormi quantità di dati di testo online, sui quali è possibile addestrare gli algoritmi.

Tuttavia, man mano che le macchine si stanno avvicinando all'acquisizione di abilità linguistiche simili all'uomo, assorbono anche i pregiudizi profondamente radicati nascosti negli schemi dell'uso del linguaggio, secondo le ultime ricerche.

Joanna Bryson, informatica all'Università di Bath e coautrice, ha dichiarato: “Molte persone affermano che ciò sta dimostrando che l'IA è prevenuta. No. Questo sta dimostrando che siamo prevenuti e che l'IA lo sta imparando. "

Ma Bryson ha avvertito che l'IA ha il potenziale per rafforzare i pregiudizi esistenti perché, a differenza degli umani, gli algoritmi potrebbero non essere attrezzati per contrastare consapevolmente i pregiudizi appresi. "Un pericolo sarebbe se tu avessi un sistema di intelligenza artificiale che non aveva una parte esplicita guidata da idee morali, sarebbe un male", ha detto.

La ricerca, pubblicata nella rivista Scienze, si concentra su uno strumento di apprendimento automatico noto come "incorporamento di parole", che sta già trasformando il modo in cui i computer interpretano il discorso e il testo. Alcuni sostengono che il prossimo passo naturale per la tecnologia potrebbe comportare macchine che sviluppano capacità umane come il senso comune e la logica.

"Uno dei motivi principali per cui abbiamo scelto di studiare gli incastri di parole è che negli ultimi anni hanno avuto un successo spettacolare nell'aiutare i computer a dare un senso al linguaggio", ha affermato Arvind Narayanan, uno scienziato informatico dell'Università di Princeton e autore senior del documento.

L'approccio, che è già utilizzato nella ricerca web e nella traduzione automatica, funziona costruendo una rappresentazione matematica del linguaggio, in cui il significato di una parola viene distillato in una serie di numeri (noto come vettore di parole) in base al quale altre parole più frequentemente compaiono accanto ad esso. Forse sorprendentemente, questo approccio puramente statistico sembra catturare il ricco contesto culturale e sociale di ciò che una parola significa nel modo in cui una definizione del dizionario sarebbe incapace.

Leggi la storia completa qui ...