La tecnocrazia cinese che utilizza il sistema di punteggio del credito sociale per guidare la dittatura scientifica

Risultati chiave

• Il governo cinese ha approvato i test pilota di un sistema di credito sociale che attinge ai dati personali dei cittadini per assegnare punteggi di credito non ufficiali, che comportano benefici e sanzioni che gestiscono le società private e gli uffici governativi.
• Le cinque dimensioni dei dati del punteggio di credito sono "storia creditizia degli utenti, abitudini comportamentali, capacità di estinguere debiti, informazioni personali e social network".
• Gli algoritmi che derivano i punteggi di credito sono segreti commerciali, vietando forme di test che possono determinare il loro funzionamento.
• Le blacklist governative dei debitori vengono condivise con i servizi di valutazione del credito pubblico e privato per vietare alle persone di effettuare determinate transazioni.

Questo post, il secondo in a serie sui sistemi di pagamento mobile, esamina una funzionalità dell'app di pagamento mobile cinese sempre più coperta dai media stranieri: test di quello che un giorno potrebbe essere un sistema di credito sociale ufficiale a livello nazionale per sostituire la sua controparte analogica tradizionale. I punteggi di credito sociale più popolari disponibili al pubblico sono attualmente emessi tramite Sesame Credit, una società fondata dalla sussidiaria di Alibaba Ant Financial. I rapporti dei media occidentali sul sistema di credito sociale descrivono un fenomeno simile alla fantascienza in base al quale ai cittadini vengono assegnati punteggi in base al loro comportamento online, alle informazioni finanziarie e ai documenti del governo. Le rivelazioni dei rappresentanti di Ant Financial hanno suggerito che la navigazione web a tarda notte, le ore passate a giocare ai videogiochi e gli articoli specifici acquistati possono abbassare il proprio punteggio. Che queste affermazioni siano vere o meno, i meccanismi di punteggio di Sesame Credit sono ancora in una fase sperimentale e sono quindi soggetti a modifiche. La nostra esplorazione della potenziale sicurezza, privacy e altri problemi di un tale sistema ha lo scopo di sollevare domande che possono informare le discussioni su come si evolverà.

Già in 2003, il Il governo cinese ha espresso interesse nella creazione di un mezzo completo per assegnare i punteggi di credito ai cittadini che sarebbe un miglioramento rispetto al sistema di rating del credito del paese. Il Consiglio di Stato ha recentemente approvato il "Schema dei regolamenti per la costruzione di un sistema di credito sociale (2014-2020)" e attualmente a otto società è stata concessa l'autorizzazione della banca centrale a condurre test pilota dei propri sistemi di credito sociale, simile ai rating del credito al consumo Fair, Isaac and Company (FICO). Parte di ciò che rende unico tale sforzo in Cina è la vaghezza e in alcuni casi la completa assenza di normative in materia di raccolta di dati di grandi dimensioni a fini di valutazione del credito, potenziali usi di tali punteggi da parte di terzi e protezioni della privacy dei dati dell'utente che incidono sul punteggio di credito calcoli. Il nuova legge sulla sicurezza informatica rilasciato su novembre 7, 2016 contiene un linguaggio relativo alle protezioni della privacy, ma non sarà implementato fino a giugno 2017.

Questo articolo riguarda il servizio di punteggio di credito sociale di Sesame Credit, che gli utenti di Alipay possono attualmente scegliere di ricevere all'interno dell'app. I punteggi di Sesame Credit sono l'esempio più popolare di come un giorno potrebbe funzionare un sistema nazionale di credito sociale cinese e forniscono un'idea delle considerazioni che le società cinesi, i cittadini e lo stato pensano debbano inserirsi in tale sistema. È una componente di una più ampia spinta del governo cinese per sfruttare i big data come risorsa per il controllo sociale. I punteggi di credito sono suddivisi in cinque dimensioni: "Storia creditizia degli utenti, abitudini comportamentali, capacità di estinguere debiti, informazioni personali e social network". Brevi descrizioni di ciascuna di queste categorie sono incluse nella funzione di credito sesamo di Alipay, ma non fanno luce su quali azioni particolari altererebbe il proprio punteggio.

Secondo Il Libro, Le "preferenze comportamentali" si riferiscono ad azioni come il pagamento tempestivo delle bollette e le "informazioni personali" comprendono l'età, il sesso, l'occupazione e la storia dell'istruzione. Più preoccupanti sono i "concetti di stabilità" mal definiti che presumibilmente prendono in considerazione il credito al sesamo, a cui i rappresentanti della società hanno accennato senza definire chiaramente. Questi sembrerebbero marcatori altamente soggettivi della propria posizione finanziaria e sociale che contribuiscono al meccanismo di valutazione del credito. Il stesso articolo da Il Libro postula che "se il tuo indirizzo cambia spesso, il tuo merito creditizio diminuirà di conseguenza. Inoltre, i registri di credito dei tuoi amici influenzeranno anche i tuoi punti Sesame. ”Il margine di travisamento e discriminazione basata su tali fattori è ampio, e anche gli incentivi che cambiano il comportamento alla base di essi. Yu Wujie, capo scienziato dei dati di credito di Ant Financial ha affermato che "Se doni regolarmente in beneficenza, il tuo punteggio di credito sarà più elevato, ma non ti dirà quanti pagamenti devi effettuare ogni mese ... ma [sviluppo] in questa direzione [è intrapreso con] la speranza che tutti doneranno. "Inoltre, Il direttore tecnologico di Ant Financial, Li Yingyun, ha affermato che "Qualcuno che gioca ai videogiochi per 10 ore al giorno, ad esempio, sarebbe considerato una persona inattiva e qualcuno che acquista frequentemente pannolini sarebbe considerato probabilmente un genitore, che a conti fatti ha più probabilità di avere un senso di responsabilità ". Queste dichiarazioni hanno alimentato la copertura condizionale dei media occidentali sul credito sociale finora, anche se va notato che l'unico modo per sapere con certezza che i fattori citati dai rappresentanti delle aziende possono effettivamente aumentare o ridurre i punteggi sarebbe quello di decostruire gli algoritmi che li determinano, che sono stati etichettati segreti commerciali.

Senza la capacità di condurre test statici o dinamici sugli algoritmi di credito sociale, cosa possiamo dedurre su come funzionano? Deng Yiming, direttore dello sviluppo commerciale di Sesame Credit, lo ha affermato solo da 30 a 40 percento dei dati utilizzato per generare punteggi di credito proviene da società e servizi di proprietà di Alibaba. A parte i dati raccolti attraverso l'attività degli utenti all'interno dell'app Alipay, Sesame Credit calcola i punteggi individuali con i dati raccolti dai siti Web di e-commerce di Alibaba, dalle app di condivisione di corse e dai ristoranti collegati ad Alipay e da uffici governativi coinvolgendo la legge, l'istruzione e il commercio. Uno degli esempi più chiari di tale scambio di dati è Legame di Sesame Credit alla Corte suprema del popolo, che è stato segnalato per aver condiviso la sua lista nera di debitori e altri che hanno violato i verdetti del tribunale con la società al fine di impedire a queste persone di fare i cosiddetti acquisti di lusso a Taobao e Tmall. Questo accordo pone la questione se il credito sesamo condivide i dati nella direzione opposta, fornendo eventualmente ai propri uffici governativi partner le informazioni sulle transazioni degli utenti. Queste collaborazioni tendono ad essere offuscate da quelle in cui Sesame Credit lavora con il settore privato per offrire vantaggi ai detentori di punteggi elevati.

Allo stato attuale, i privilegi di avere un punteggio di credito sociale elevato possono includere la prenotazione di un'auto a noleggio o una stanza d'albergo senza effettuare un deposito, stipulare prestiti a tassi di interesse più bassi, essere spediti acquisti online per provare prima di pagare per loro e ottenere visti a Lussemburgo e Singapore attraverso un processo accelerato. Altri paesi che hanno espresso interesse a partecipare a questo rilascio accelerato di visti comprendono Giappone, Corea del Sud, Sri Lanka e Regno Unito. Si è discusso degli usi futuri degli elevati punteggi di credito che si estendono al matchmaking e al reclutamento di posti di lavoro, il che sottolinea la misura in cui input distorti potrebbero creare nuove barriere sociali.

Le rappresentazioni del governo cinese del sistema di credito sociale lo gettano come mezzo per ripristinare la fiducia tra i cittadini e nelle imprese locali, come i ristoranti che saranno monitorati per il rispetto delle normative sanitarie. Un altro degli argomenti chiave per la creazione di un sistema di credito sociale è che consentirà alle persone tradizionalmente incapaci di accumulare credito di poterlo fare: studenti, impiegati, proprietari di piccole imprese e simili. Eppure finora sembra che i vantaggi di avere un punteggio elevato (di cui è stato ipotizzato che in effetti pochi utenti hanno raggiunto) sono quelli che favoriscono coloro che sono in una posizione finanziaria migliore per fare spese sontuose e frequenti. Una critica è stata che il credito sesamo aumenta i punteggi per le persone che conducono più transazioni Alipay, che la società ha fermamente negato. Gli esempi di punteggi più alti per gli acquisti associati a persone che sono genitori e punteggi più bassi per le persone che cambiano indirizzo di casa spesso suggeriscono che una mancanza di contesto può portare a false dichiarazioni delle azioni delle persone che possono avere conseguenze sproporzionate.

Esiste il pericolo di spiegare le iniziative relative ai big data come l'adozione di misure "oggettive" dei dati degli utenti, in parte perché nei casi in cui un indicatore è impreciso, diventa difficile contestare questo punto. Un esempio da a recente Wall Street Journal articolo coinvolge una donna che ha usato il pass per la metropolitana di suo figlio ed è stata multata per un atto che, a un algoritmo, sembra essere stato un furto. Questo incidente minore solleva preoccupazioni circa il modo decontestualizzato in cui il punteggio del credito sociale può essere progettato per operare. Quale eventuale rimedio legale è disponibile per errori molto più conseguenti nell'ambito di un sistema di credito sociale?

Lo stato degli attuali esperimenti in questo campo solleva molte domande sulle protezioni dell'utente. Per quanto riguarda la privacy degli utenti, si è discusso poco delle implicazioni di rendere i punteggi delle persone visualizzabili da altri. Alipay offre a gioco in cui gli amici possono indovinare i punteggi di credito degli altri e rivelarli l'uno all'altro, per esempio. Oltre agli altri utenti, le società esterne che forniscono servizi speciali ai titolari di punteggi di credito elevati e gli uffici governativi partner dell'app, con quali terze parti condivideranno i dati di Sesame Credit? La centralizzazione dei meccanismi di raccolta dei dati per il credito sociale rende dang'an-come i dossier della vita online e offline delle persone, tanto più portatile, come hanno notato diversi rapporti dei media. Quali procedure di sicurezza sono in atto per proteggere questi archivi di preziose informazioni personali?

In un'ironia che ha tormentato molti apparati di sorveglianza, la diffusione di un sistema di credito sociale e i relativi sensori, codici QR e altri strumenti di lettura delle tracce possono creare nuovi problemi di sicurezza separati da quelli che presumibilmente mira a ridurre attraverso un monitoraggio quasi onnipresente di comportamento. Queste nuove minacce riguardano il modo in cui i dati relativi al punteggio di credito possono essere falsificati e i fini per i quali è possibile utilizzare punteggi di credito falsi. Il controllo di sicurezza accelerato all'aeroporto di Pechino per gli utenti del credito sesamo con punteggi abbastanza alti che viaggiano su voli nazionali fornisce un esempio di una situazione in cui un punteggio elevato falsificato potrebbe consentire a qualcuno di bypassare controlli di sicurezza più rigorosi, che può essere una minaccia per la sicurezza nazionale da un esperto e determinato abbastanza attore. Più il sistema di credito sociale è ampiamente utilizzato e maggiore è la gamma di premi che può fornire punteggi migliori, maggiori saranno gli incentivi per capire come hackerarlo. Articoli e fili su come aumentare i propri punteggi di credito sono già in aumento ed è ancora poco chiaro quanto sia facile hackerare un account specifico e falsificare le informazioni.

Come spiegato in un post precedente, Alibaba ha subito fughe di dati da dipendenti dell'azienda e hack esterni. È imperativo chiedersi quali precauzioni stanno prendendo dato che il rapido sviluppo di un sistema di credito sociale probabilmente renderà le aziende che sono i suoi amministratori oggetto di furto di dati ed estorsione. Inoltre, poiché una serie di dispositivi Internet of Things (IoT) per la raccolta di dati viene venduta in tutta la Cina, le capacità granulari di tracciare ogni mossa dei cittadini e trarre da queste informazioni come input di credito sociale diventeranno sempre più forti e richiedono lavoro da parte dei produttori di IoT per affrontare questi problemi. Uno sviluppo che ha il potenziale per rendere le società di credito sociale più trasparenti è stato l'annuncio della Commissione per lo sviluppo e la riforma nazionale i servizi di valutazione del credito saranno aperti agli investimenti esteri, che può almeno fornire ulteriori informazioni sul modo in cui viene realizzato il punteggio del credito sociale aziendale (per ristoranti e imprese locali).

L'ultima preoccupazione relativa alla sicurezza e alla censura che offriamo in considerazione è la possibilità del credito sociale e della finanza mobile accesso essere bloccato per penalizzare i cittadini per atti di protesta, come solo un esempio. Se entrambi questi servizi diventano indispensabili nella vita quotidiana della persona, la possibilità di congelamento dei conti degli utenti sanzionato dal governo potrebbe comportare gravi danni alle libertà civili. Man mano che il lancio del sistema procede, è importante tenere presente che sebbene gli algoritmi che determinano i punteggi di credito possano cambiare rapidamente in modi che utenti e ricercatori non riescono a percepire, il potere dello stato e delle aziende che modellano lo sviluppo del sistema del credito sociale è molto più radicato, ed è in definitiva responsabile dei risultati del mondo reale che il sistema di credito sociale può produrre.

Leggi l'articolo completo qui ...