I ricercatori scoprono che i programmi di intelligenza artificiale stanno imparando pregiudizi razziali e di genere

Wikipedia Commons
Per favore, condividi questa storia!

Un programma di intelligenza artificiale che impara da ciò che gli umani sanno e scrivono, naturalmente prendeva in considerazione tutti i pregiudizi e immaginava che fossero normali. Fondamentalmente, questo implica che gli aspetti negativi del comportamento umano saranno semplicemente trasferiti sull'intelligenza artificiale.  Editor TN

Uno strumento di intelligenza artificiale che ha rivoluzionato la capacità dei computer di interpretare il linguaggio di tutti i giorni ha dimostrato di mostrare sorprendenti pregiudizi di genere e razziali.

Le scoperte sollevano lo spettro delle disuguaglianze sociali esistenti e i pregiudizi vengono rafforzati in modi nuovi e imprevedibili poiché un numero crescente di decisioni che incidono sulla nostra vita quotidiana viene ceduto agli automi.

Negli ultimi anni, la capacità di programmi come Google Translate di interpretare la lingua è notevolmente migliorata. Questi guadagni sono stati grazie alle nuove tecniche di apprendimento automatico e alla disponibilità di enormi quantità di dati di testo online, sui quali è possibile addestrare gli algoritmi.

Tuttavia, man mano che le macchine si stanno avvicinando all'acquisizione di abilità linguistiche simili all'uomo, assorbono anche i pregiudizi profondamente radicati nascosti negli schemi dell'uso del linguaggio, secondo le ultime ricerche.

Joanna Bryson, informatica all'Università di Bath e coautrice, ha dichiarato: “Molte persone affermano che ciò sta dimostrando che l'IA è prevenuta. No. Questo sta dimostrando che siamo prevenuti e che l'IA lo sta imparando. "

[the_ad id = "11018 ″]

Ma Bryson ha avvertito che l'IA ha il potenziale per rafforzare i pregiudizi esistenti perché, a differenza degli umani, gli algoritmi potrebbero non essere attrezzati per contrastare consapevolmente i pregiudizi appresi. "Un pericolo sarebbe se tu avessi un sistema di intelligenza artificiale che non aveva una parte esplicita guidata da idee morali, sarebbe un male", ha detto.

La ricerca, pubblicata nella rivista Scienza, si concentra su uno strumento di apprendimento automatico noto come "incorporamento di parole", che sta già trasformando il modo in cui i computer interpretano il discorso e il testo. Alcuni sostengono che il prossimo passo naturale per la tecnologia potrebbe comportare macchine che sviluppano capacità umane come il senso comune e la logica.

"Uno dei motivi principali per cui abbiamo scelto di studiare gli incastri di parole è che negli ultimi anni hanno avuto un successo spettacolare nell'aiutare i computer a dare un senso al linguaggio", ha affermato Arvind Narayanan, uno scienziato informatico dell'Università di Princeton e autore senior del documento.

L'approccio, che è già utilizzato nella ricerca web e nella traduzione automatica, funziona costruendo una rappresentazione matematica del linguaggio, in cui il significato di una parola viene distillato in una serie di numeri (noto come vettore di parole) in base al quale altre parole più frequentemente compaiono accanto ad esso. Forse sorprendentemente, questo approccio puramente statistico sembra catturare il ricco contesto culturale e sociale di ciò che una parola significa nel modo in cui una definizione del dizionario sarebbe incapace.

Leggi la storia completa qui ...

Sottoscrivi
Notifica
ospite

1 Commento
il più vecchio
Nuovi Arrivi I più votati
Feedback in linea
Visualizza tutti i commenti
Nigel

Il pregiudizio fa parte della condizione umana - collaboriamo con persone che sembrano noi, ci riuniamo in gruppi che sono come noi e sosteniamo le nostre opinioni, guardiamo con sospetto coloro che non lo sono e non lo sono - questo è il nostro percorso evolutivo. Questo è un altro punto cruciale identificato da questa tecnocrazia: è un insulto una tensione posta sul tessuto stesso di ciò che siamo. Negarci le nostre differenze e rifiutarci di consentirci di celebrarle è contrario alla nostra natura, ci causa profonda angoscia e mirare a ciò che... Per saperne di più »