L'analisi e le decisioni delle minacce saranno prese in modo autonomo, notificando gli agenti di pattuglia di frontiera; tuttavia, questa è una pista scivolosa che potrebbe essere indotta fin troppo facilmente in ampie pratiche di applicazione della legge. ⁃ TN Editor
Immagina di fare escursioni attraverso i boschi vicino a un confine. All'improvviso, senti un ronzio meccanico, come un'ape gigantesca. Due quadricotteri ti hanno individuato e si sono fatti avanti per dare un'occhiata più da vicino. Le antenne su entrambi i droni e su un veicolo terrestre autonomo nelle vicinanze raccolgono le frequenze radio provenienti dal cellulare in tasca. Inviano i segnali a un server centrale, che triangola la posizione esatta e lo restituisce ai droni. I robot si avvicinano.
Le telecamere e altri sensori sulle macchine ti riconoscono come umani e cercano di accertare le tue intenzioni. Sei una minaccia? Stai attraversando illegalmente un confine? Hai una pistola? Sei impegnato in atti di terrorismo o criminalità organizzata? Le macchine inviano feed video al loro operatore umano, una guardia di frontiera in un ufficio a miglia di distanza, che controlla i video e decide che non si è un rischio. La guardia di frontiera preme un pulsante e i robot si sganciano e continuano la loro pattuglia.
Questa non è fantascienza. L'Unione europea sta finanziando un progetto per sviluppare droni pilotati dall'intelligenza artificiale e progettati per pattugliare autonomamente i confini dell'Europa. I droni opereranno in sciami, coordinando e confermando le informazioni tra flotte di quadricotteri, piccoli aerei ad ala fissa, veicoli terrestri, sottomarini e barche. Gli sviluppatori del progetto, noto come Roborder, affermano che i robot saranno in grado di identificare gli umani e decidere autonomamente se rappresentano una minaccia. Se determinano che potresti aver commesso un reato, avviseranno la polizia di frontiera.
Il presidente Donald Trump ha usato lo spettro di criminali che attraversano il confine meridionale per suscitare sentimenti politici nazionalisti ed energizzare la sua base. In Europa, due anni dopo l'apice della crisi migratoria che ha portato più di un milione di persone nel continente, principalmente dal Medio Oriente e dall'Africa, l'immigrazione rimane un problema di punta, anche se il numero di nuovi arrivati è diminuito. I partiti politici in tutta l'Unione europea stanno vincendo le elezioni piattaforme anti-immigrazione e promulgando sempre più restrittivi politiche di frontiera. Gli etici della tecnologia e i sostenitori della privacy temono che Roborder e progetti simili esternalizzino troppo il lavoro delle forze dell'ordine ad attori non umani e potrebbero essere facilmente armati contro le persone nelle aree di confine.
"Lo sviluppo di questi sistemi è un passo oscuro in un territorio moralmente pericoloso", ha detto Noel Sharkey, professore emerito di robotica e intelligenza artificiale presso la Sheffield University nel Regno Unito e uno dei fondatori del Comitato internazionale per il controllo delle armi robotiche, un'organizzazione no profit che difende l'uso militare della robotica. Sharkey elenca esempi di droni armati attualmente sul mercato: robot volanti equipaggiati con Taser, spray al pepe, proiettili di gomma e altre armi. Egli avverte delle implicazioni della combinazione di tale tecnologia con il processo decisionale basato sull'intelligenza artificiale e il suo utilizzo in zone di confine politicamente cariche. "È solo una questione di tempo prima che un drone sia in grado di agire per fermare le persone", ha detto Sharkey a The Intercept.
Gli sviluppatori di Roborder potrebbero anche violare i termini del loro finanziamento, secondo i documenti relativi al progetto ottenuti tramite le normative sulla trasparenza dell'Unione Europea. L'iniziativa è finanziata principalmente da una sovvenzione per la ricerca e l'innovazione di € 8 milioni destinata a progetti esclusivamente non militari, ma gli sviluppatori di Roborder riconoscono che parti del loro sistema proposto riguardano la tecnologia militare o potrebbero essere facilmente convertite per uso militare.
Gran parte dello sviluppo di Roborder è classificato, ma The Interccept ha ottenuto rapporti interni relativi a considerazioni etiche e preoccupazioni sul programma. Tale documentazione è stata redatta in modo improprio e inavvertitamente rilasciata per intero.
In uno dei rapporti, gli sviluppatori di Roborder hanno cercato di affrontare i criteri etici legati ai finanziamenti dell'UE. Gli sviluppatori hanno valutato se il loro lavoro potesse essere modificato o migliorato per nuocere agli esseri umani e cosa sarebbe potuto accadere se la tecnologia o le conoscenze sviluppate nel progetto "fossero finite nelle mani sbagliate". Queste questioni etiche vengono sollevate, scrivono gli sviluppatori, quando "la ricerca fa uso di informazioni, materiali o tecniche classificati; materiali pericolosi o soggetti a restrizioni [;] e se risultati specifici della ricerca potrebbero presentare un pericolo per i partecipanti o per la società nel suo insieme. "
Gli sviluppatori di Roborder hanno sostenuto che queste preoccupazioni etiche non si applicavano al loro lavoro, affermando che il loro unico obiettivo era sviluppare e testare la nuova tecnologia e che non sarebbe stata venduta o trasferita al di fuori dell'Unione Europea durante il ciclo di vita del progetto. Ma nelle interviste con The Intercept, gli sviluppatori del progetto hanno riconosciuto che la loro tecnologia potrebbe essere riproposta e venduta, anche al di fuori dell'Europa, al termine del ciclo del progetto europeo, che dovrebbe avvenire l'anno prossimo.
Oltre al progetto Roborder, i rapporti etici depositati presso la Commissione europea suggeriscono una domanda più ampia: quando si tratta di nuove tecnologie con il potenziale da utilizzare contro le persone vulnerabili in luoghi con poche protezioni dei diritti umani, chi decide cosa dovremmo e non dovremmo sviluppare ?
Roborder ha vinto il suo sovvenzione di finanziamento in 2017 e ha iniziato a sviluppare un prototipo commerciabile - "uno sciame di robotica per supportare il monitoraggio delle frontiere" - a metà 2020. I suoi sviluppatori sperano di costruire e equipaggiare una raccolta di droni aerei, marittimi e terrestri che possono essere combinati e inviati in missioni di pattugliamento dei confini, scansionando "minacce" in modo autonomo sulla base delle informazioni fornite dagli operatori umani, ha affermato Stefanos Vrochidis, project manager di Roborder .
I droni impiegheranno telecamere ottiche, a infrarossi e termiche; radar; e sensori di radiofrequenza per determinare le minacce lungo il confine. Le frequenze dei telefoni cellulari verranno utilizzate per triangolare la posizione delle persone sospettate di attività criminale e le telecamere identificheranno esseri umani, pistole, veicoli e altri oggetti. "L'obiettivo principale è avere il maggior numero possibile di sensori sul campo per assistere il personale di pattuglia", ha affermato Kostas Ioannidis, responsabile tecnico di Roborder.
wpDiscuz