Che siano intenzionali o meno, gli algoritmi AI ereditano i pregiudizi dei loro creatori. È assolutamente inaccettabile che qualsiasi IA possa imparare a ingannare coloro che ne sono serviti. ⁃ Editor TN
A seconda di quanto sei paranoico, questa ricerca di Stanford e Google sarà terrificante o affascinante. Un agente di apprendimento automatico inteso a trasformare le immagini aeree in mappe stradali e viceversa è stato scoperto che stava imbrogliando nascondendo le informazioni di cui avrebbe bisogno in seguito in "un segnale quasi impercettibile, ad alta frequenza". Ragazza intelligente!
Questa occorrenza rivela un problema con i computer che esistono da quando sono stati inventati: fanno esattamente ciò che dici di fare.
L'intenzione dei ricercatori era, come si può immaginare, di accelerare e migliorare il processo di trasformazione delle immagini satellitari in mappe ben precise di Google. A tal fine il team stava lavorando con quello che viene chiamato CycleGAN, una rete neurale che impara a trasformare le immagini di tipo X e Y l'una nell'altra, nel modo più efficiente e accurato possibile, attraverso una grande quantità di sperimentazione.
In alcuni primi risultati, l'agente stava andando bene - con sospetto bene. Ciò che ha rovinato la squadra è stato che, quando l'agente ha ricostruito le fotografie aeree dalle sue mappe stradali, c'erano molti dettagli che sembravano non essere presenti su quest'ultima. Ad esempio, i lucernari su un tetto che erano stati eliminati nel processo di creazione della mappa stradale riapparivano magicamente quando chiedevano all'agente di eseguire il processo inverso:
La mappa originale, a sinistra; la mappa stradale generata dall'originale, al centro; e la mappa aerea generata solo dalla mappa stradale. Nota la presenza di punti su entrambe le mappe aeree non rappresentate sulla mappa stradale.
Sebbene sia molto difficile scrutare il funzionamento interno dei processi di una rete neurale, il team potrebbe facilmente controllare i dati che stava generando. E con un po 'di sperimentazione, hanno scoperto che il CycleGAN ne aveva effettivamente fatto uno veloce.
L'intenzione era che l'agente fosse in grado di interpretare le caratteristiche di entrambi i tipi di mappa e abbinarle alle caratteristiche corrette dell'altro. Ma quale era l'agente effettivamenteessere valutato (tra le altre cose) era quanto fosse vicina una mappa aerea all'originale e la chiarezza della mappa stradale.
Così non ha imparare a fare l'uno dall'altro. Ha imparato a codificare sottilmente le caratteristiche di uno nei modelli di rumore dell'altro. I dettagli della mappa aerea sono segretamente scritti nei dati visivi reali della mappa stradale: migliaia di minuscoli cambiamenti di colore che l'occhio umano non avrebbe notato, ma che il computer può facilmente rilevare.
In effetti, il computer è così bravo a far scivolare questi dettagli nelle mappe stradali che ha imparato a codificare in qualsiasi mappa aerea in in qualsiasicartina stradale! Non deve nemmeno prestare attenzione alla “vera” mappa stradale: tutti i dati necessari per ricostruire la foto aerea possono essere sovrapposti in modo innocuo su una mappa stradale completamente diversa, come hanno confermato i ricercatori:
La mappa a destra è stata codificata nelle mappe a sinistra senza cambiamenti visivi significativi (Immagini: agsandrew / Shutterstock)
Le mappe colorate in (c) sono una visualizzazione delle lievi differenze introdotte sistematicamente dal computer. Puoi vedere che formano la forma generale della mappa aerea, ma non te ne accorgeresti mai a meno che non sia stata accuratamente evidenziata ed esagerata in questo modo.
Questa pratica di codifica dei dati in immagini non è nuova; è una scienza consolidata chiamata steganografia ed è sempre usata per dire filigrane o aggiungere metadati come le impostazioni della fotocamera. Ma un computer crea il proprio metodo steganografico per sfuggire al dover effettivamente imparare a svolgere il compito da svolgere is piuttosto nuovo. (Beh, la ricerca è uscita l'anno scorso, quindi non lo è nuovi nuovo, ma è piuttosto romanzo.)
