I matematici chiedono la fine del crimine predittivo della polizia AI

Dopo una raffica di casi di brutalità della polizia quest'anno e le proteste che sciamano per le strade degli Stati Uniti, migliaia di matematici si sono uniti a scienziati e ingegneri chiamata per boicottare l'intelligenza artificiale dall'uso delle forze dell'ordine.

Oltre 2,000 matematici hanno firmato a lettera invitando a boicottare ogni collaborazione con la polizia e dicendo ai loro colleghi di fare lo stesso in una futura pubblicazione dell'American Mathematical Society, A prova di ombra segnalati.

La chiamata all'azione per i matematici è stata l'uccisione da parte della polizia di George Floyd, Tony McDade, Breonna Taylor e molti altri proprio quest'anno.

"Ad un certo punto, raggiungiamo tutti un punto di rottura, in cui ciò che è proprio davanti ai nostri occhi diventa più ovvio ", afferma Jayadev Athreya, partecipante al boicottaggio e professore associato di matematica all'Università di Washington. "Fondamentalmente, è una questione di giustizia."

I matematici hanno scritto una lettera aperta, raccogliendo migliaia di firme per un diffuso boicottaggio della polizia utilizzando algoritmi per la polizia. Ogni matematico all'interno della rete del gruppo si impegna a rifiutare qualsiasi collaborazione con le forze dell'ordine.

Il gruppo sta organizzando un'ampia base di matematici nella speranza di impedire alla polizia di utilizzare tali tecnologie. Gli autori della lettera citano "profonde preoccupazioni sull'uso delle tecnologie di machine learning, intelligenza artificiale e riconoscimento facciale per giustificare e perpetuare l'oppressione".

La polizia predittiva è un'area chiave in cui alcuni matematici e scienziati hanno abilitato gli algoritmi razzisti, che dicono ai poliziotti di trattare aree specifiche come "punti caldi" per potenziali crimini. Attivisti e organizzazioni hanno a lungo criticato il pregiudizio in queste pratiche. Gli algoritmi addestrati sui dati prodotti dalla polizia razzista riprodurranno quel pregiudizio per "prevedere" dove verrà commesso il crimine e chi è potenzialmente un criminale.

"I dati non parlano da soli, non sono neutri", spiega Brendan McQuade, autore di Pacifying the Homeland: Intelligence Fusion and Mass Supervision. I dati della polizia sono "dati sporchi", perché non rappresentano il crimine, ma la polizia e gli arresti.

“Allora cosa troveranno le sue previsioni? Che la polizia dovrebbe distribuire le proprie risorse nello stesso luogo in cui la polizia ha tradizionalmente dispiegato le proprie risorse.

Si ritiene che diversi, se non tutti, gli stati degli Stati Uniti e le principali città utilizzino un qualche tipo di polizia predittiva o software pre-crimine con utenti noti, tra cui Chicago, Atlanta, Tacoma, New York e LA, anche se non senza protestare contro il suo utilizzo. Come Attivista post in precedenza segnalati, molti di questi stati utilizzano il software Palantir per i loro algoritmi di criminalità predittiva e sono stati denunciati per averlo fatto, come la Florida, la cui polizia ha terrorizzato e monitorato i residenti della contea di Pasco.

Queste organizzazioni di polizia negli Stati Uniti utilizzano da anni le cosiddette "liste di calore" o database pre-crimine. Che cos'è una "lista di batteria", potresti chiedere?

Ebbene, le "liste di calore" sono fondamentalmente database compilati da algoritmi di persone che controllano sospettare può commettere un crimine. Sì, hai letto bene - una persona che forza commettere un crimine. Il modo in cui vengono generati questi elenchi e quali fattori determinano che un individuo "può commettere un crimine" è sconosciuto.

Leggi la storia completa qui ...