Il software di riconoscimento facciale di Amazon è "imperfetto, parziale e pericoloso"

Per favore, condividi questa storia!

Dopo aver identificato 28 membri del Congresso come sospetti della polizia, l'IA di riconoscimento facciale di Amazon sembra funzionare solo circa l'80% delle volte, eppure viene venduta in massa a governi e agenzie di polizia. Anche se ha funzionato il 95% delle volte, il 5% che viene identificato erroneamente rischia di vedersi distrutta la vita per niente. ⁃ TN Editor

Uno strumento di riconoscimento facciale che Amazon.com Inc vende agli sviluppatori web ha erroneamente identificato i membri del Congresso di 28 come sospetti della polizia, in un test condotto dall'American Civil Liberties Union (ACLU), ha detto giovedì l'organizzazione.

Amazon, in una risposta, ha dichiarato di aver avuto problemi con le impostazioni del suo strumento Face ID durante il test. I risultati evidenziano tuttavia i rischi che gli individui potrebbero affrontare se la polizia utilizzasse la tecnologia in determinati modi per catturare i criminali.

Da maggio, l'ACLU e altri gruppi per i diritti civili hanno fatto pressioni su Amazon affinché smettesse di vendere ai governi l'accesso a Rekognition, un potente software per l'identificazione delle immagini presentato nel 2016 dalla divisione di cloud computing dell'azienda.

I gruppi hanno citato l'uso del Rekognition da parte delle forze dell'ordine in Oregon e in Florida e hanno avvertito che lo strumento potrebbe essere utilizzato per colpire ingiustamente immigrati e persone di colore.

Il loro attivismo ha dato il via a un dibattito pubblico. Il presidente di Microsoft Corp, rivale di Amazon che utilizza anche la tecnologia di riconoscimento facciale, ha invitato il Congresso all'inizio di questo mese a studiare le possibili normative.

L'ACLU ha affermato che vuole che il Congresso promuova una moratoria sull'uso della tecnologia da parte delle forze dell'ordine.

Il riconoscimento facciale è già ampiamente utilizzato in Cina per scopi di polizia e un certo numero di start-up locali - alcune del valore di miliardi di dollari - stanno perseguendo in modo aggressivo la tecnologia.

Amazon ha propagandato una serie di usi per Rekognition, dal rilevamento di contenuti offensivi online all'identificazione di celebrità.

"Restiamo entusiasti di come l'analisi di immagini e video possa essere un fattore positivo nel mondo", ha detto in una dichiarazione una portavoce di Amazon Web Services, citando il suo aiuto per trovare i bambini smarriti e prevenire i crimini. Ha detto che la Rekognition era normalmente utilizzata per restringere il campo della revisione umana, non per prendere decisioni finali.

L'ACLU ha dichiarato di aver pagato solo $ 12.33 per far sì che Amazon Rekognition paragonasse le foto ufficiali di ogni membro della Camera e del Senato degli Stati Uniti con un database di foto di arresti pubblici di 25,000.

La tecnologia ha identificato "corrispondenze" per 28 membri del Congresso con almeno l'80% di accuratezza, l'impostazione predefinita di Amazon, ha affermato l'ACLU.

Leggi la storia completa qui ...