Flashback 2012 - L'Atlantico lega Facebook direttamente alla tecnocrazia

Il desiderio di efficienza di Facebook significa che la democrazia è fuori e il governo tecnocratico, il re degli sviluppatori è dentro.

Stabiliamo che Facebook non è un paese, che i governi reali svolgono molte più funzioni e che le persone non sono cittadini dei loro social network.

Tuttavia, 900 milioni di esseri umani fanno qualcosa come vivere nello spazio virtuale blu e bianco della più grande rete strutturata di persone del mondo. E quelle persone entrano in controversie che si aspettano di essere giudicate. Hanno questa aspettativa in parte perché Facebook ha da tempo affermato di voler creare un ambiente sicuro per connettersi con altre persone. (In quale altro modo puoi convincere le persone a essere "più aperto e connesso“?) Ma le persone vogliono anche che qualcuno sia in carica, vogliono un'autorità a cui possono appellarsi se qualcun altro si sta comportando da idiota.

Tranne in questo caso, il qualcuno è davvero una persona aziendale. Quindi, quando segnali qualcosa o qualcuno segnala qualcosa di tuo, è Facebook che prende la decisione su ciò che è stato pubblicato, anche se sappiamo che da qualche parte lungo la linea, qualche essere umano deve incarnare il noi aziendale, anche se solo per il tempo sufficiente per fare clic su un pulsante.

Qualsiasi decisione individuale presa dal team di Facebook - come togliendo questa foto di un bacio di una coppia gay - è facile mettere in discussione. Ken Fisher di Ars Technica dettagliato tutta una serie di problemi unici che le persone hanno incontrato con il sistema di segnalazione di Facebook. In ognuna c'è una parte lesa, ma sentiamo solo una parte del conflitto quando questi problemi si manifestano. In molti eventi singoli, hai due persone (o entità come le aziende) con desideri contrastanti. Questo è un classico caso in cui hai bisogno di una sorta di governo.

Non è difficile immaginare di prendere una o 20 o anche 200 decisioni su fotografie o aggiornamenti di stato in una settimana, ma è sbalorditivo considerare che Facebook deve elaborare 2 milioni di report alla settimanae questo non include i semplici messaggi "contrassegna come spam".

Come si progetta un sistema per gestire quel carico di lavoro? Ho parlato con James Mitchell, che dirige ciò che Facebook chiama "integrità del sito" all'interno del suo dipartimento operativo per gli utenti, e Jud Hoffman, responsabile delle politiche globali dell'azienda sul processo di segnalazione. Sono gli artefici della tecnocrazia di Facebook.

"La quantità di pensiero e di dibattito che va nel processo di creazione e gestione di queste regole non è poi così diversa da un processo legislativo e giudiziario riuniti in uno", mi ha detto Hoffman, un avvocato. “E James ha l'elemento esecutivo / giudiziario. Non penso che sia una forzatura pensarci in un contesto di governance, ma è una forma diversa e la prendiamo davvero, davvero sul serio ".

Il passaggio chiave, mi ha detto Mitchell, è stato quello di dare una struttura al processo di segnalazione. Quando ha iniziato nel 2006, non c'era alcun modulo per i reclami degli utenti. Ciò significava che c'era un'enorme coda di problemi indifferenziati. Quindi, lui e il suo team hanno iniziato a pensare a quali tipi di problemi hanno ricevuto e hanno creato categorie di problemi, che hanno perfezionato nel tempo.

Ciò consente ai rapporti di essere incanalati attraverso una serie complessa di processi e team in modo che arrivino di fronte a esseri umani o computer che sanno cosa farne.

Facebook ha rivelato questa infrastruttura per la prima volta oggi. È il prodotto di oltre cinque anni di lavoro di diversi team all'interno di Facebook, che hanno lavorato per rendere il processo di gestione di questa marea di richieste degli utenti il ​​più efficiente possibile.

Alla fine di molte di queste righe di segnalazione, c'è una persona che deve prendere una decisione sul messaggio dell'utente. Alcune di queste decisioni sono binarie: questa fotografia contiene nudità? - e quelli sono generalmente esternalizzati a team che possono applicare formule semplici e rigorose come chiedere: "Questa persona è nuda?" Altre decisioni sono complesse in modi che rendono le macchine molto brave a gestirle. (Ad esempio, ci sono più di 50 segnali che gli algoritmi di Facebook esaminano per determinare se un profilo è spam e le risposte automatiche sono più accurate di quelle umane).

Ma la maggior parte delle segnalazioni viene messa in campo da un team senza volto di diverse centinaia di dipendenti di Facebook a Mountain View, Austin, Dublino e Hyderabad. Queste persone e gli strumenti che hanno costruito sono diventati de facto legislatori, burocrati, polizia e giudici della quasi-nazione di Facebook. Alcune decisioni che prendono hanno un impatto minimo su centinaia di milioni di persone; altre decisioni cambieranno notevolmente la vita di un piccolo numero di persone.

Ciò che mi affascina è che Facebook ha essenzialmente ricreato una burocrazia governativa completa di regolatori e forze dell'ordine, ma ottimizzata per valori completamente diversi rispetto ai governi tradizionali. Invece di una costituzione, Facebook ha la duplice missione di rendere "il mondo più aperto e connesso" e di mantenere gli utenti sul suo sito riducendo al minimo le loro esperienze negative. Soprattutto, la soluzione di Facebook a tutti i problemi di governance deve essere progettata per un'estrema efficienza su larga scala.

Come stabilito sopra, i governi del mondo reale devono svolgere tutti i tipi di funzioni a parte le controversie tra cittadini, ma basta guardare la differenza di scala tra il governo di Facebook e il governo di Palo Alto. Palo Alto ha circa 65,000 residenti e 617 a tempo pieno dipendenti. Facebook ha 900 milioni di "residenti" e poche centinaia di burocrati che prendono tutte le decisioni sui contenuti.

Il desiderio di efficienza di Facebook significa che la democrazia è fuori e tecnocratica, il governo del re degli sviluppatori è dentro. Le persone non possono votare le regole, e anche quando Facebook ha offerto ai suoi utenti l'opportunità di votare una nuova politica sulla privacy la scorsa settimana, l'affluenza alle urne è stata del 0.038 percento. Le persone sanno che Facebook controlla un'ampia fetta della loro vita digitale, ma non hanno un senso di cittadinanza digitale. E quell'apatia dà alla tecnocrazia di Facebook la possibilità di avere successo dove i suoi antecedenti storici non hanno avuto.

I tecnocrati originali erano un gruppo di pensatori e ingegneri negli anni '1930 che resuscitarono il sogno di Platone del re filosofo, ma con una rotazione dell'era delle macchine. Guidati da Thorstein Veblen, Howard Scott e M. King Hubbert, non sostenevano il governo del popolo o della monarchia o del dittatore, ma degli ingegneri. Gli ingegneri e gli scienziati avrebbero governato in modo razionale e imparziale. Avrebbero creato una tecnocrazia che funzionasse come un orologio e assicurasse che la produttività di tutti fosse distribuita in modo efficiente. Hanno elaborato un intero sistema in base al quale il continente nordamericano sarebbe stato governato con sequenze funzionali che avrebbero permesso al Direttore continentale di fare le cose.