Nell'aprile 2021, la Commissione europea (CE) ha pubblicato il tanto atteso Legge sull'intelligenza artificiale, una proposta normativa completa che classifica le applicazioni di IA in categorie di rischi distinte. Tra le applicazioni ad alto rischio identificate, i sistemi biometrici remoti, che includono la tecnologia di riconoscimento facciale (FRT), sono stati individuati come particolarmente preoccupanti. Il loro impiego, in particolare nel campo dell'applicazione della legge, può portare a violazioni dei diritti umani in assenza di solidi meccanismi di governance.
Forze dell'ordine e tecnologia di riconoscimento facciale
In tutte le giurisdizioni, i responsabili politici sono sempre più consapevoli sia delle opportunità che dei rischi associati all'uso della FRT da parte delle forze dell'ordine. Qui il riconoscimento facciale si riferisce al processo del (possibile) riconoscimento di una persona confrontando un'immagine sonda (foto o filmati/immagini fisse di sospetti o persone di interesse) con immagini facciali di criminali e persone scomparse archiviate in uno o più database di riferimento per avanzare un'indagine di polizia.
Da un lato, FRT ha il potenziale per aiutare a risolvere, fermare e prevenire i crimini e consegnare i colpevoli alla giustizia. Più specificamente, potrebbe essere utile per vari tipi di indagini, tra cui l'individuazione dell'identità di un criminale di frode bancomat, la ricerca di un terrorista negli spazi pubblici, la lotta agli abusi sui minori o persino la ricerca di persone scomparse. D'altra parte, le prime esperienze mostrano che senza un'adeguata supervisione, la FRT potrebbe provocare abusi dei diritti umani e danneggiare i cittadini.
In questo contesto, trovare il giusto equilibrio appare difficile. I responsabili politici possono esplorare varie opzioni che vanno da un divieto assoluto all'introduzione di ulteriori meccanismi di responsabilità per limitare il rischio di arresti illeciti. Negli Stati Uniti, città come San Francisco, Oakland e Boston hanno vietato l'uso della FRT da parte delle agenzie pubbliche, mentre gli stati di Washington, Virginia e Massachusetts hanno introdotto una normativa per regolamentarne l'uso. In altre regioni, le decisioni dei tribunali svolgono un ruolo importante nella definizione dell'agenda politica. La Corte d'Appello del Regno Unito ha dichiarato illegale l'impiego di FRT da parte della polizia del Galles del Sud identificare le persone ricercate in determinati eventi e luoghi pubblici in cui si ritiene probabile che si verifichi un crimine.
A un livello più globale, il recente rapporto dell'Ufficio dell'Alto Commissario per i diritti umani delle Nazioni Unite (OHCHR) sul diritto alla privacy nell'era digitale raccomanda ai governi di interrompere l'uso del riconoscimento biometrico a distanza negli spazi pubblici in tempo reale fino a quando non possono dimostrare che non vi sono problemi significativi di accuratezza o effetti discriminatori. Suggerisce inoltre che questi sistemi di intelligenza artificiale devono rispettare solidi standard di privacy e protezione dei dati.
La tecnologia di riconoscimento facciale richiede una solida struttura di governo
Nonostante questi importanti sviluppi, la maggior parte dei governi di tutto il mondo riconosce il potenziale dei sistemi di riconoscimento facciale per la sicurezza nazionale, ma è ancora alle prese con le sfide della regolamentazione della FRT perché considerazioni cruciali sono state ampiamente trascurate. Se dovessimo autorizzare l'uso proporzionale della FRT per scopi legittimi di polizia, quale organo di controllo dovrebbe essere incaricato di valutare la conformità delle attività di contrasto ai diritti umani e di seguire potenziali denunce da parte dei cittadini? Come possiamo mantenere un alto livello di prestazioni delle soluzioni FRT implementate? Quali processi di approvvigionamento dovrebbero essere in atto per le forze dell'ordine?
Per affrontare queste sfide, il Forum economico mondiale, in collaborazione con l'Organizzazione internazionale della polizia criminale (INTERPOL), il Centro per l'intelligenza artificiale e la robotica dell'Istituto interregionale di ricerca sul crimine e la giustizia delle Nazioni Unite (UNICRI) e la polizia olandese, ha pubblicato un white paper che introduce a quadro di governance strutturato intorno a due componenti critiche:
- Un insieme di principi d'azione che definisce cosa costituisce un uso responsabile del riconoscimento facciale per le indagini delle forze dell'ordine coprendo tutte le considerazioni politiche pertinenti;
- Un questionario di autovalutazione che dettaglia i requisiti che le forze dell'ordine devono rispettare per garantire il rispetto dei principi di azione.
In quanto tale, questa iniziativa rappresenta la risposta politica più completa ai rischi associati alla FRT per le indagini delle forze dell'ordine, guidata da una comunità globale e multistakeholder.
Tutto bene, ma dal momento che le forze dell'ordine operano sotto le linee guida dei politici, data la corruzione nel governo che vediamo oggi in tutto il mondo, sono scettico che la tecnologia verrà utilizzata correttamente. Irritare il politico sbagliato e finire incarcerato ingiustamente o, peggio, morto. Mi dispiace, ma doveva essere articolato.
Richiede una "Struttura di governo robusta" eh? .. il tipo di governo che non collude per rubare le elezioni?; il tipo di governo che non distrugge l'economia e impone un colpo velenoso per schiavizzare i suoi cittadini e fare enormi quantità di denaro?; un governo che non lavora insieme alla Cina e al CDC per finanziare la sperimentazione di guadagno di funzione che ci ha portato a questo punto? Non QUEL tipo di governo, ovviamente. Purtroppo questo è il tipo di governo che ha l'America, ed è l'ultima istituzione di cui ti fidi per salvaguardare i diritti e le libertà individuali. Schwab sta vivendo... Per saperne di più »
Come qualcuno ha detto una volta, non c'è realtà in cui una cosa del genere non venga terribilmente abusata
Uso improprio totale della tecnologia e abuso dei diritti umani fondamentali. wef deve essere demolito immediatamente con ogni mezzo possibile.
Organizzazioni come questa hanno seriamente bisogno di continuare a masturbarsi collettivamente e lasciare le persone in pace.
Ecco un riassunto perfetto del perché stiamo assistendo a tutta questa follia. . .
Il grande “perché” del mondo occidentale
Triste, ma passalo.
Aggrappati ai tuoi incapaci pannolini per il viso COVID. Potrebbero rivelarsi utili per qualcosa.
Perché i membri del World Economic Forum non sono in prigione e stanno cercando una punizione per le violazioni di Norimberga e gli omicidi di massa?
[…] Nel frattempo… Il WEF crea un quadro per il riconoscimento facciale “responsabile” […]