Lo sviluppo dell'IA distopica cinese incorpora il controllo della popolazione

Fin dal suo concepimento, le persone si sono preoccupate che un'intelligenza artificiale si sarebbe rivolta contro l'umanità e avrebbe minacciato le nostre vite. Anche se questo potrebbe essere un risultato da temere per molti anni in futuro, in questo momento il pericolo più urgente è che l'IA è usata per opprimere milioni di persone e facilitare la minaccia di un regime di controllo.

Tornati a casa durante la quarantena pandemica, io e mia figlia abbiamo guardato di nuovo Person of Interest su Netflix.

In sostanza, la prima serie di reti parla di un uomo che ha creato un'intelligenza artificiale quasi onnisciente che osserva tutti attraverso reti di telecamere, computer e smartphone. Ogni settimana, il nostro team di eroi, assemblato dal creatore dell'IA, cerca di aiutare una persona che l'IA ha identificato come probabile vittima di un omicidio di prossima uscita. Poiché questa IA è stata inventata dal protagonista dello spettacolo, dimostra empatia e valorizza la vita umana.

Tuttavia, nella terza stagione, una seconda IA ​​viene gestita per conto del governo e questa IA non apprezza la vita umana. Funziona su ordini di ea beneficio di una società oscura, che inizia a organizzare la vita delle persone per i propri scopi, inclusa l'uccisione di persone che non rientrano nel suo programma. È spaventoso.

Questo spettacolo è una buona televisione e lo consiglio a chiunque legga regolarmente questo blog e quindi interessato a come la tecnologia può influenzare le nostre vite. Person of Interest può anche farti conoscere ciò che sta accadendo ora nel paese più popoloso del mondo.

Ho scritto molto di recente videosorveglianza e riconoscimento facciale negli Stati Uniti, ma la polizia americana è limitata dai requisiti costituzionali e può facilmente esserci rules applicato alle nuove tecnologie che limiteranno le capacità del governo di usarle indiscriminatamente. Gli Stati Uniti vantano anche protezioni per i diritti degli individui di riunirsi e protestare, un governo che può essere cambiato regolarmente e un sistema giudiziario che generalmente protegge tali diritti. Una stampa indipendente fa luce sul comportamento del governo ritenuto abusivo di questi diritti.

Quindi pensate a un paese senza nessuno di quei controlli ed equilibri, senza diritti individuali garantiti dalla legge, senza libertà di stampa, nessun sistema giudiziario indipendente e una dittatura a partito unico che detiene tutto il potere. Ora pensa a cosa succederebbe se fornissi a quel paese una sorveglianza elettronica e fisica illimitata da centinaia di milioni di telecamere ai droni per catturare tutto il traffico telefonico, di testo e Internet, comprese le ricerche e i social media. Quindi dai a questa società una sofisticazione sempre maggiore nell'intelligenza artificiale per gestire il flusso di informazioni e assegnare un significato a tutti gli atti che cattura, anche aggregare la visione completa del comportamento di una persona in un punteggio che determina tutti gli aspetti importanti della vita di una persona. Ricevi un buon punteggio dal governo e ti viene assegnato l'appartamento che desideri o il permesso di avere un bambino. Un punteggio negativo significa blocchi stradali nella tua vita. Questo è ciò che la Cina sta rapidamente diventando.

La Cina non sta solo istituendo una società di sorveglianza, compreso un sistema di punteggio sociale per ogni residente, ma sta investendo molto nell'intelligenza artificiale necessaria per gestire tutto e fare valutazioni di ciò che le telecamere, i lettori biometrici e i filtri Internet catturano. Secondo Stime militari statunitensi, La Cina spenderà 70 miliardi di dollari in fondi governativi per lo sviluppo dell'IA nel 2020 rispetto ai 17 miliardi di dollari nel 2017. La spesa non per la difesa degli Stati Uniti per l'IA quest'anno sarà di circa un miliardo di dollari.

Non solo la Cina sta costruendo laboratori governativi per sviluppare le prossime generazioni di intelligenza artificiale, ma lo stretto coordinamento del governo con aziende come Huawei e Alibaba fornisce allo stato di sorveglianza anche le migliori ricerche commerciali private. Il tutto alimentato dalle quantità supermassicce di dati prodotte nel più grande stato di sorveglianza del mondo, perché enormi set di dati sono i mattoni di un'IA efficace. Cina, come The Economist recentemente osservato, è l'Arabia Saudita dei dati.

L'altra raccomandazione che farò in questa colonna è di leggere l'articolo di Ross Anderson su The Atlantic Call Il Panopticon è già qui, che spiega come la sorveglianza, l'intelligenza artificiale, il punteggio sociale, uno stato a partito unico e l'oppressione politica si stanno combinando in Cina sia per creare il primo sistema sociale onnisciente sia per esportarlo in altri paesi. Anderson riferisce di come l'intero sistema venga testato proprio ora nella "prigione a cielo aperto" della provincia dello Xinjiang, dove gli uiguri musulmani sono monitorati ogni minuto della loro vita.

Anderson scrive del presidente cinese, leader del partito ed efficace dittatore, Xi Jinping, "Con l'intelligenza artificiale, Xi può costruire l'apparato autoritario più oppressivo della storia, senza la forza lavoro necessaria a Mao per mantenere le informazioni sul dissenso che fluiscono in un unico nodo centralizzato. Nelle più importanti start-up di intelligenza artificiale cinesi - SenseTime, CloudWalk, Megvii, Hikvision, iFlytek, Meiya Pico - Xi ha trovato partner commerciali disponibili. E nella minoranza musulmana dello Xinjiang, ha trovato la sua popolazione di prova ".

Più di un milione di uiguri sono stati imprigionati, il che è più prigionieri politici di qualsiasi altro esempio dai campi di concentramento nazisti. John Oliver discusso la vita in queste prigioni e nei campi di rieducazione nel suo programma di questa settimana. Ma gli uiguri che vivono ancora nella provincia dello Xinjiang sono soggetti a posti di blocco, video costanti e altra sorveglianza e all'introduzione di “fratelli e sorelle” cinesi Han per monitorare l'assimilazione forzata nella cultura comunista. Secondo Anderson, “A questi controlli, la polizia estrae tutti i dati che possono dai corpi degli uiguri. Misurano l'altezza e prelevano un campione di sangue. Registrano voci e tamponano il DNA. "

E questo banco di prova per la sorveglianza e la conformità politica può essere facilmente esportato nel resto del paese. Anderson osserva: “Una volta che Xi avrà perfezionato questo sistema nello Xinjiang, nessun limite tecnologico gli impedirà di estendere la sorveglianza dell'IA in tutta la Cina. Potrebbe anche esportarlo oltre i confini del paese, rafforzando il potere di un'intera generazione di autocrati ".

L'investimento nell'IA guida l'intero processo. Il Atlantico L'articolo afferma: “Gran parte del filmato raccolto dalle telecamere cinesi viene analizzato da algoritmi per minacce alla sicurezza di un tipo o dell'altro. Nel prossimo futuro, ogni persona che entra in uno spazio pubblico potrebbe essere identificata, istantaneamente, dall'intelligenza artificiale abbinandola a un oceano di dati personali, comprese le loro comunicazioni di testo e lo schema di costruzione delle proteine ​​unico nel suo genere. Col tempo, gli algoritmi saranno in grado di mettere insieme punti dati da un'ampia gamma di fonti - documenti di viaggio, amici e colleghi, abitudini di lettura, acquisti - per prevedere la resistenza politica prima che accada. Il governo cinese potrebbe presto ottenere una stretta politica senza precedenti su oltre 1 miliardo di persone ".

Quindi nuovi strumenti di sorveglianza come droni robot di sorveglianza degli uccelli, abbastanza bravi da indurre altri uccelli a volare con loro, sono già stati introdotti in Cina per fornire più dati sul comportamento delle persone nell'IA gestita dallo stato. Come affermato da  C / NET, "Anche la Cina impiega riconoscimento facciale, intelligenza artificiale, occhiali intelligenti e altre tecnologie per monitorare i suoi 1.4 miliardi di cittadini con l'obiettivo di dare un giorno a ciascuno di loro a punteggio personale in base a come si comportano. "

Immagina un punteggio di credito che invece di misurare semplicemente il comportamento e le capacità finanziarie, misuri tutti gli aspetti della tua vita e le interazioni con la società. E poi immagina che il tuo punteggio possa determinare che tipo di appartamento ti è permesso avere - o se il governo ti permetterà di vivere in un appartamento. Lo stesso vale per il tuo lavoro, le opportunità di istruzione, la riproduzione e altri aspetti fondamentali della tua vita. Questo è il punteggio sociale cinese. Come sottolineato in Wired UKSebbene parte dell'attuale sistema sia volontario, sono previsti incentivi per la partecipazione e sanzioni per la mancata partecipazione.

Infine, e forse la cosa più spaventosa, la Cina sta usando il suo potere economico e l'industria privata per esportare la tecnologia di controllo della popolazione ai dittatori di tutto il mondo. Anderson osserva: “La Cina sta già sviluppando nuovi potenti strumenti di sorveglianza e li sta esportando in dozzine di attuali e aspiranti autocrazie del mondo. Nei prossimi anni, quelle tecnologie saranno perfezionate e integrate in sistemi di sorveglianza onnicomprensivi che i dittatori possono collegare e utilizzare ".

Leggi la storia completa qui ...