Polizia locale dei Supercharges della tecnologia di riconoscimento facciale di Amazon

Per favore, condividi questa storia!
Amazon afferma che il suo sistema di intelligenza artificiale Rekognition "indistinguibile dalla magia", ma ora lo offre per commissioni nominali alle forze dell'ordine a tutti i livelli, dalla polizia della città locale e gli uffici dello sceriffo all'FBI. Attualmente non esistono leggi nazionali che regolano l'uso del riconoscimento facciale. ⁃ TN Editor

Quando i lavoratori di un Ace Hardware qui hanno riferito che una donna era uscita dal negozio con un serbatoio di gas per saldatura da $ 11.99 che non aveva pagato nella sua borsa, è entrata in azione un'elaborata operazione di lotta alla criminalità ad alta tecnologia.

Un detective dello sceriffo della contea di Washington, in collaborazione con l'Unità investigativa speciale dell'agenzia, ha eseguito i filmati di sorveglianza del negozio attraverso un programma interno di riconoscimento facciale costruito da Amazon, rivelando una possibile corrispondenza.

La targa di quella donna è stata segnalata e, tre mesi dopo, un agente della narcotici su un SUV senza contrassegni l'ha vista e ha contattato via radio altri agenti di pattuglia per fermarla. Un deputato le ha messo un paio di manette intorno ai polsi e il rapporto di arresto afferma. Ha detto che aveva bisogno del gas per riparare la sua macchina.

I delegati in questo angolo dell'Oregon occidentale, fuori dall'ultraliberale Portland, erano soliti rintracciare i criminali alla vecchia maniera, inviando via fax le immagini catturate dalla telecamera di un sospetto in ufficio, nella speranza che qualcuno potesse riconoscere il volto.

Poi, alla fine del 2017, l'ufficio dello sceriffo della contea di Washington è diventata la prima agenzia di forze dell'ordine nel paese nota per utilizzare lo strumento di intelligenza artificiale di Amazon Rekognition, trasformando questo boschetto di foreste e periferie in un terreno di prova pubblico per una nuova ondata di sorveglianza sperimentale della polizia. tecniche.

Quasi dall'oggi al domani, i deputati hanno visto i loro poteri investigativi sovralimentati, consentendo loro di scansionare le corrispondenze del volto di un sospetto su oltre 300,000 foto segnaletiche scattate nella prigione della contea dal 2001. Un'immagine sgranata del viso di qualcuno - catturata da una telecamera di sicurezza, un social media account o lo smartphone di un vice - possono rapidamente diventare un collegamento alla loro identità, inclusi il loro nome, famiglia e indirizzo. L'anno scorso sono state registrate più di 1,000 ricerche di riconoscimento facciale, hanno detto i deputati, che a volte hanno utilizzato i risultati per trovare la pagina Facebook di un sospetto o per visitare la loro casa.

Ma la contea di Washington è diventata anche il punto zero per una battaglia ad alto rischio sulla crescita non regolamentata della polizia tramite algoritmo. Gli avvocati della difesa, i ricercatori di intelligenza artificiale e gli esperti di diritti civili sostengono che la tecnologia potrebbe portare all'arresto illegale di persone innocenti che hanno solo una somiglianza con un'immagine video. Anche l'accuratezza di Rekognition è oggetto di accese discussioni e alcuni esperti temono che un caso di identità errata da parte di deputati armati possa avere implicazioni pericolose, minacciando la privacy e la vita delle persone.

Negli ultimi anni alcune agenzie di polizia hanno effettuato ricerche di riconoscimento facciale su database statali o dell'FBI utilizzando sistemi costruiti da appaltatori come Cognitec, IDEMIA e NEC. Ma l'implementazione da parte di Amazon ha segnato forse il passo più grande nel rendere dominante la controversa tecnologia di scansione del volto. Il rekognition è facile da attivare, non richiede grandi infrastrutture tecniche ed è offerto praticamente a chiunque a prezzi stracciati. La contea di Washington ha speso circa $ 700 per caricare la sua prima grande serie di foto e ora, per tutte le sue ricerche, paga circa $ 7 al mese.

È impossibile dire, tuttavia, quanto sia stata accurata o efficace la tecnologia durante i suoi primi 18 mesi di test nel mondo reale. I deputati non devono annotare nei rapporti di arresto quando è stata utilizzata una ricerca di riconoscimento facciale e il numero esatto di volte che ha portato a un arresto non è chiaro. I funzionari dello sceriffo hanno affermato che il software ha portato a dozzine di arresti per furto, violenza o altri crimini, ma una richiesta di documenti pubblici ha prodotto nove casi in cui è stato menzionato il riconoscimento facciale.

"Proprio come qualsiasi delle nostre tecniche investigative, non diciamo alle persone come le catturiamo", ha detto Robert Rookhuyzen, un detective della squadra per i crimini principali dell'agenzia che ha affermato di aver eseguito "diverse dozzine" di ricerche e trovato utile circa il 75% del tempo. "Vogliamo che continuino a indovinare."

I funzionari dello sceriffo affermano che le scansioni del viso non sempre segnano la fine delle indagini: i deputati devono comunque stabilire la causa probabile o trovare prove prima di accusare un sospetto di un crimine. Ma l'ufficio dello sceriffo stabilisce le proprie regole per l'uso del riconoscimento facciale e consente ai deputati di utilizzare lo strumento per identificare corpi, sospetti inconsci e persone che si sono rifiutate di fornire il proprio nome.

I risultati imperfetti dello strumento di ricerca aumentano il rischio che una persona innocente venga segnalata e arrestata, soprattutto nei casi in cui le immagini scansionate siano sfocate, di bassa qualità o parzialmente nascoste. I deputati possono anche eseguire schizzi di artisti attraverso la ricerca, un uso insolito che secondo gli esperti di intelligenza artificiale potrebbe portare più spesso a una falsa corrispondenza.

Le linee guida di Amazon per le forze dell'ordine affermano che i funzionari dovrebbero utilizzare i risultati di Rekognition solo quando il sistema è sicuro al 99% in una partita. Ma ai deputati qui non viene mostrata la misurazione della fiducia nella ricerca quando usano lo strumento. Invece, vengono fornite cinque possibili corrispondenze per ogni ricerca, anche se la certezza del sistema in una corrispondenza è molto inferiore.

Dopo aver risposto alle domande del Washington Post, Amazon ha aggiunto un linguaggio a quelle linee guida, affermando che gli agenti dovrebbero rivedere manualmente tutte le corrispondenze prima di trattenere un sospetto e che la ricerca "non dovrebbe essere utilizzata come unico fattore determinante per agire".

Il rapporto tra Amazon e la terza più grande agenzia di polizia dell'Oregon è reciprocamente vantaggioso: l'ufficio dello sceriffo sta aiutando a perfezionare il sistema, che Amazon spera di vendere in tutto il paese. Ma la spinta di Amazon nelle vendite delle forze dell'ordine ha allarmato alcuni avvocati legali che affermano che il sistema pone troppi rischi per le libertà civili. (Il fondatore e CEO di Amazon Jeff Bezos possiede The Post.)

"Il governo è incredibilmente potente e in un caso fa molto contro un singolo cittadino", ha detto Mary Bruington, direttrice dell'ufficio del difensore pubblico della contea di Washington, che rappresenta gli imputati che non possono permettersi un avvocato. “Lo accoppi con Amazon? È una partnership potente. "

Matt Wood, il direttore generale dell'intelligenza artificiale per la divisione di cloud computing dell'azienda, Amazon Web Services, ha affermato in una dichiarazione che Rekognition è solo "un altro input tra molti altri indizi per un'indagine guidata al 100% dall'uomo".

Tuttavia, la società deve affrontare critiche su molti fronti: i migliori ricercatori di intelligenza artificiale, membri del Congresso e gruppi per i diritti civili, nonché alcuni investitori e dipendenti di Amazon, hanno esortato la società a smettere di fornire la tecnologia alle forze dell'ordine, indicando studi che hanno scoperto che il sistema è meno preciso con i volti dalla pelle scura. Amazon ha contestato quella ricerca.

Alcuni dei rivali di Amazon hanno rifiutato contratti simili. Il presidente di Microsoft Brad Smith ha dichiarato ad aprile che la società aveva recentemente rifiutato di fornire il suo software di riconoscimento facciale a un'agenzia delle forze dell'ordine della California che voleva eseguire una scansione del viso ogni volta che i suoi ufficiali hanno fermato qualcuno, ma che aveva approvato un accordo per mettere la tecnologia in una prigione degli Stati Uniti. Microsoft ha rifiutato di fornire dettagli.

Gli investitori di Amazon voteranno a maggio su una proposta, sostenuta da un gruppo di azionisti attivisti, che impedirebbe alla società di vendere Rekognition ad agenzie governative a meno che il consiglio della società non determini che non rappresenta un rischio per i diritti umani.

L'ufficio dello sceriffo ha consentito ai giornalisti del Post di trascorrere due giorni a marzo nelle sue auto della polizia, negli uffici dell'investigatore e nella prigione della contea, osservando come i deputati abbiano piegato la tecnologia nel loro carico di lavoro quotidiano. La maggior parte degli intervistati ha affermato che il software ha risparmiato tempo, aumentato il numero degli arresti e aiutato a elaborare il crescente eccesso di prove visive. Ad oggi, non è stata avanzata alcuna contestazione legale contro un arresto sulla base del fatto che il match fotografico era sbagliato, hanno detto sia i deputati che i difensori pubblici.

Ma gli avvocati dell'Oregon hanno affermato che la tecnologia non dovrebbe essere, come molti lo vedono, un imminente passo in avanti per il futuro della polizia, e inquadrano il sistema non come una pietra miliare tecnica ma morale: va bene nominare più cattivi se anche altri bravi ragazzi potrebbero essere arrestati?

"La gente ama dire sempre, 'Ehi, se sta catturando persone cattive, fantastico, chi se ne frega'", ha detto Joshua Crowther, un vice difensore principale in Oregon, "finché non sono dall'altra parte."

'Indistinguibile dalla magia'

Quando Amazon ha rivelato Rekognition nel 2016, la società l'ha definita una svolta per un potente stile di intelligenza artificiale di apprendimento profondo che ha mostrato risultati "indistinguibili dalla magia". In un post sul blog illustrato con una foto del cane di un dirigente, l'azienda ha offerto alcune idee generali su come le persone potrebbero iniziare a usarlo, inclusi i controlli di sicurezza o i cartelloni pubblicitari cablati per raccogliere dati dal viso di uno spettatore.

La presentazione ha attirato l'attenzione di Chris Adzima, un ex programmatore di eBay che era stato assunto presso l'ufficio dello sceriffo della contea di Washington per lavorare su un'app per iPhone che i deputati usano per tracciare il comportamento dei detenuti. La sua agenzia aveva già centinaia di migliaia di foto del viso online e nessun modo reale per analizzarle. Utilizzando l'intelligenza artificiale di Amazon, ha ottenuto un sistema operativo in meno di tre settimane.

"Non avevano un'idea precisa di alcun tipo di caso d'uso nel mondo reale, ma sapevano di avere uno strumento potente da loro creato", ha affermato Adzima, analista senior dei sistemi informativi che lavora in un piccolo cubicolo presso il quartier generale dello sceriffo. "Quindi, sai, ho appena iniziato a usarlo."

I deputati hanno immediatamente iniziato a integrare le ricerche facciali nella loro polizia quotidiana e Adzima ha costruito un sito web interno essenziale che consente loro di cercare dalle loro auto di pattuglia. Ha abbandonato le percentuali di affidabilità della ricerca e ha progettato il sistema per restituire cinque risultati, ogni volta: quando il sistema ha restituito zero risultati, ha detto, i deputati si sono chiesti se avessero sbagliato qualcosa. Per renderlo più piccante, ha anche aggiunto un'animazione di "scansione" viola non necessaria ogni volta che un agente caricava una foto - un tocco che ha detto è stato ispirato da programmi polizieschi come "CSI".

Leggi la storia completa qui ...

Sottoscrivi
Notifica
ospite

0 Commenti
Feedback in linea
Visualizza tutti i commenti