Smackdown biometrico: il contraccolpo cresce contro il riconoscimento facciale

Un adolescente fa causa a Apple per $ 1 miliardi. Il querela, archiviato lunedì, dipende dal presunto uso di una tecnologia sempre più popolare e controversa: il riconoscimento facciale. La tecnologia può identificare un individuo analizzando le sue caratteristiche facciali nelle immagini, nei video o in tempo reale.

L'attore, studente universitario 18, Ousmane Bah, afferma la compagnia lo strumento di riconoscimento facciale lo ha portato all'arresto per furti di Apple Store non ha commesso, collegando erroneamente il suo nome con la faccia del vero ladro. Gli ufficiali del NYPD sono venuti a casa di Bah lo scorso autunno per arrestarlo a 4 al mattino, solo per scoprire che apparentemente avevano il ragazzo sbagliato. Bah afferma che l'intero calvario gli ha causato un grave disagio emotivo. Nel frattempo, Apple insiste che i suoi negozi non usano la tecnologia di riconoscimento facciale.

Qualunque sia la verità che si rivela in questo caso, la causa di Bah è l'ultimo segno di una reazione crescente contro il riconoscimento facciale. Man mano che la tecnologia viene implementata in sempre più settori, ha suscitato sempre più controversie. Prendi, ad esempio, gli inquilini neri di Brooklyn che recentemente hanno obiettato al piano del loro padrone di casa di installare la tecnologia nel loro edificio stabilizzato in affitto. O il viaggiatore che si è lamentato tramite Twitter JetBlue l'aveva registrata nel suo volo usando il riconoscimento facciale senza il suo consenso. (La compagnia aerea ha spiegato di aver utilizzato i dati del Dipartimento di sicurezza nazionale per farlo e si è scusata.)

Questo è in aggiunta al ricercatori, sostenitorie migliaia di membri del pubblicoche hanno espresso preoccupazione per il rischio di riconoscimento facciale che porta a arresti illegali. Temono che determinati gruppi saranno colpiti in modo sproporzionato. La tecnologia di riconoscimento facciale è abbastanza efficace nell'identificare i volti maschili bianchi, perché quelli sono i tipi di volti su cui sono stati addestrati. Ma troppo spesso identifica erroneamente persone di colore e donne. Tale pregiudizio potrebbe portarli a essere sproporzionatamente trattenuti per essere interrogati mentre un numero maggiore di forze dell'ordine utilizzava la tecnologia.

Ora stiamo raggiungendo un punto di svolta in cui le principali aziende - non solo Apple, ma anche Amazon e Microsoft - sono costrette a prendere sul serio tali reclami. E anche se stanno finalmente cercando di telegrafare che sono sensibili alle preoccupazioni, potrebbe essere troppo tardi per riconquistare la fiducia. L'insoddisfazione pubblica ha raggiunto un tale livello di febbre che alcuni, incluso la città di San Francisco, stanno ora valutando il divieto assoluto della tecnologia di riconoscimento facciale.

Un voto per vietare ad Amazon di vendere Rekognition

Amazon non è esattamente noto per giocare bene. Ha una reputazione per combattere le proposte di legge non gli piace e per difendere in modo aggressivo il proprio lavoro con la polizia e il governo. Per anni, potrebbe permettersi di comportarsi in quel modo. Eppure il tumulto per il riconoscimento facciale sta rendendo più difficile mantenere quella postura.

Lo strumento di riconoscimento facciale di Amazon, Rekognition, è già stato venduto alle forze dell'ordine e promosso a immigrazione e controllo doganale. Ma i principali ricercatori dell'IA hanno recentemente discusso una lettera aperta che la tecnologia è profondamente imperfetta. (Caso in questione: in un test dell'anno scorso, Il rekognition ha abbinato i membri del Congresso 28 a colpi di arma da fuoco criminali.) E gli azionisti di Amazon hanno chiesto a gran voce un voto se la società dovesse smettere di vendere lo strumento alle agenzie governative fino a quando non avrà superato una revisione indipendente del suo impatto sui diritti civili.

Amazon ha lottato duramente per impedire che il voto si verificasse, ma la Securities and Exchange Commission governato questo mese che la società deve lasciarlo andare avanti. Si svolgerà a maggio 22. Sebbene il risultato sarà in gran parte simbolico - le risoluzioni degli azionisti non sono vincolanti - il voto è destinato a portare l'attenzione negativa su Amazon.

Nel frattempo, la società è stata cercando di ammorbidire la sua immagine ad esempio, richiamando alcune delle sue tattiche promozionali aggressive. Kartik Hosanagar, professore della Wharton School of Business, disse Amazon sta intraprendendo "azioni preventive" per rendere piacevole "prima che uno dei candidati [presidenziali] renda Amazon il figlio di quelli che chiamano problemi con Big Tech".

Messaggi misti di Microsoft sull'uso etico del riconoscimento facciale

Mentre Amazon è ancora una giovane azienda, fondata in 1994, Microsoft ha raggiunto l'età adulta - è in circolazione da 1975. Quella durata più lunga significa che ha avuto più tempo per commettere errori, ma anche più tempo per imparare da loro. Kim Hart di Axios sostiene che è per questo Microsoft è riuscita, per la maggior parte, a evitare il contraccolpo contro la grande tecnologia. "Microsoft, che ha attraversato la propria battaglia antitrust con il Dipartimento di Giustizia negli" 90s ", ha evitato gli errori commessi dai suoi fratelli Big Tech più giovani e robusti", scrive.

Tuttavia Microsoft non è assolutamente immune al contraccolpo. Dopo che è stato riferito questo mese che i ricercatori Microsoft hanno prodotto tre articoli sull'intelligenza artificiale e sul riconoscimento facciale con un'università a conduzione militare in Cina, alcuni politici statunitensi hanno agitato l'azienda per aiutare un regime che stava trattenendo un milione di musulmani uiguri nei campi di internamento e sorvegliando milioni di altri. Sen. Marco Rubio chiamato "Profondamente inquietante ... un atto che li rende complici nell'aiutare l'apparato di censura totalitaria del governo comunista cinese".

La stampa ha anche sottolineato che la società ha venduto il suo software di riconoscimento facciale a una prigione americanae che il presidente della Microsoft Brad Smith ha affermato che lo sarebbe "crudele" smettere del tutto di vendere il software ad agenzie governative.

Giorni dopo, la compagnia si è impegnata a dimostrare che si preoccupa dell'uso etico dell'IA. Smith annunciò che si era rifiutato di vendere il suo software di riconoscimento facciale a un'agenzia di polizia californiana che voleva installarlo nelle macchine e nelle carrozzerie degli ufficiali. Ha detto che Microsoft ha rifiutato per motivi di diritti umani, la conoscenza dell'uso del software avrebbe portato le persone di colore e le donne a essere trattenute in modo sproporzionato per essere interrogate.

La spinta a vietare completamente la tecnologia di riconoscimento facciale

Questo mese ha chiarito che la pressione pubblica sta funzionando quando si parla di riconoscimento facciale. Le aziende di Behemoth sanno di non poter più ignorare le critiche - o, come hanno fatto di recente, semplicemente affermano di accogliere con favore la regolamentazione di questa tecnologia. I critici stanno chiarendo che non è abbastanza buono: vogliono vedere tali società "uscire del tutto dal settore della sorveglianza", come ha detto la American Civil Liberties Union a Vox.

Leggi la storia completa qui ...