Affermazione: il riconoscimento facciale AI può rivelare il tuo partito politico

I ricercatori hanno creato un sistema di apprendimento automatico che, secondo loro, può determinare il partito politico di una persona, con ragionevole precisione, basandosi solo sul suo volto. Lo studio, da un gruppo che ha anche dimostrato che la preferenza sessuale può apparentemente essere dedotta in questo modo, affronta candidamente ed evita attentamente le insidie ​​della "frenologia moderna", portando alla scomoda conclusione che il nostro aspetto può esprimere più informazioni personali che pensiamo.

Lo studio, apparso questa settimana nella rivista Nature Scientific Reports, è stato condotto da Michal Kosinski della Stanford University. Kosinski ha fatto notizia nel 2017 con un lavoro che ha scoperto che la preferenza sessuale di una persona poteva essere prevista dai dati facciali.

Lo studio ha attirato critiche non tanto per i suoi metodi, ma per l'idea stessa che qualcosa che è nozionalmente non fisico potrebbe essere rilevato in questo modo. Ma il lavoro di Kosinski, come ha spiegato allora e in seguito, è stato fatto specificamente per sfidare queste ipotesi ed è stato sorprendente e inquietante per lui come lo era per gli altri. L'idea non era quella di costruire una sorta di gaydar AI, anzi, al contrario. Come scrisse il team all'epoca, era necessario pubblicare per avvertire gli altri che una cosa del genere poteva essere costruita da persone i cui interessi andavano oltre quello accademico:

Siamo rimasti davvero turbati da questi risultati e abbiamo dedicato molto tempo a considerare se dovessero essere resi pubblici. Non volevamo consentire gli stessi rischi contro cui mettiamo in guardia. La capacità di controllare quando ea chi rivelare il proprio orientamento sessuale è fondamentale non solo per il proprio benessere, ma anche per la propria sicurezza.

Abbiamo ritenuto che vi fosse un'urgente necessità di rendere i responsabili politici e le comunità LGBTQ consapevoli dei rischi che stanno affrontando. Non abbiamo creato uno strumento per invadere la privacy, ma piuttosto abbiamo dimostrato che i metodi di base e ampiamente utilizzati rappresentano una seria minaccia per la privacy.

Avvertimenti simili possono essere suonati qui, perché mentre l'appartenenza politica almeno negli Stati Uniti (e almeno al momento) non lo è as un elemento sensibile o personale come preferenza sessuale, è comunque sensibile e personale. Difficilmente passa una settimana senza che si legga di qualche “dissidente” politico o religioso o di un altro arrestato o ucciso. Se i regimi oppressivi potessero ottenere ciò che passa per probabile causa dicendo "l'algoritmo ti ha contrassegnato come un possibile estremista", invece di intercettare ad esempio messaggi, renderebbe questo tipo di pratica molto più semplice e scalabile.

L'algoritmo in sé non è una tecnologia iper-avanzata. L'articolo di Kosinski descrive un processo abbastanza ordinario di fornire a un sistema di apprendimento automatico le immagini di oltre un milione di volti, raccolte da siti di incontri negli Stati Uniti, Canada e Regno Unito, nonché dagli utenti americani di Facebook. Le persone i cui volti sono stati utilizzati sono state identificate come politicamente conservatrici o liberali come parte del questionario del sito.

L'algoritmo era basato su un software di riconoscimento facciale open source e, dopo l'elaborazione di base per ritagliare solo il viso (in questo modo nessun elemento di sfondo si insinua come fattori), i volti sono ridotti a 2,048 punteggi che rappresentano varie caratteristiche, come con altri riconoscimenti facciali algoritmi, queste non sono cose intuitive necessarie come "colore delle sopracciglia" e "tipo di naso" ma più concetti nativi del computer.

Al sistema sono stati forniti dati di affiliazione politica provenienti dalle persone stesse, e con questo ha iniziato a studiare diligentemente le differenze tra le statistiche facciali delle persone che si identificano come conservatrici e quelle che si identificano come liberali. Perché si scopre che ci sono differenze.

Ovviamente non è così semplice come "i conservatori hanno le sopracciglia più folte" o "i liberali corrucciano di più". Né si riduce ai dati demografici, il che renderebbe le cose troppo facili e semplici. Dopotutto, se l'identificazione del partito politico è correlata sia all'età che al colore della pelle, ciò costituisce un semplice algoritmo di previsione proprio lì. Ma sebbene i meccanismi software utilizzati da Kosinski siano abbastanza standard, è stato attento a coprire le sue basi in modo che questo studio, come l'ultimo, non possa essere liquidato come pseudoscienza.

Il modo più ovvio per affrontare questo problema è che il sistema indovini il partito politico di persone della stessa età, sesso ed etnia. Il test prevedeva di essere presentati con due facce, una per ciascuna parte, e di indovinare quale fosse quale. Ovviamente l'accuratezza casuale è del 50%. Gli esseri umani non sono molto bravi in ​​questo compito, eseguendo solo leggermente al di sopra delle possibilità, circa il 55% di precisione.

L'algoritmo è riuscito a raggiungere il 71% di accuratezza nel prevedere il partito politico tra due individui simili e il 73% si è presentato con due individui di qualsiasi età, etnia o sesso (ma è comunque garantito che uno conservatore, uno liberale).

Leggi la storia completa qui ...