Raging Against The Algorithm: Google e tecnologia persuasiva

Mostri e titani condividono lo stadio della mitologia attraverso le culture come le necessarie realizzazioni dell'immaginazione umana. Dalla grotta di pietra all'abitazione urbana, il tema è incessante; tenuti nell'immaginazione, tali creature svolgono, abbastanza innocentemente, funzioni benigne. La cattura qui è la tendenza umana a realizzare tali creature. Prendono la forma di ingegneria sociale e utopia. Folliamente legati, tali progetti e iniziative finiscono per corrompere e degradare. Il mostro è nato e la terribile verità viene alla ribalta: il campo di concentramento, lo stato di sorveglianza, i notiziari, gli eserciti di censura.

I giganti della tecnologia dell'era attuale sono gli utopisti moderni, indulgendo alla fame e agli interessi umani modellandoli. Una società ci dà l'archetipo. È Google, che ha la singolare distinzione di essere sia sostantivo che verbo, entità e azione. Il potere di Google è sproporzionatamente vasto, un'espansione raccapricciante che accarezza la trasparenza mentre la manca e che raccoglie informazioni mentre ne regola la portata. È anche un'entità che è andata oltre il semplice archivio di ricerche e dati, un tentativo di indurre un cambiamento comportamentale da parte degli utenti.

Google dà sempre l'impressione che i suoi utenti siano in testa, autonomi, indipendenti in una terra verdeggiante di divertimento digitale. L'idea che l'azienda stessa promuova tale cambiamento, prendendo in giro le alterazioni del comportamento, è messa da parte. Non ci sono Svengalis a Googleland, perché siamo tutti liberi. Gratuito, ma necessita di assistenza tra caos e "multitasking".

Le persone hanno ciò che chiamate aziendali “Micro-momenti”, quelli, come l'economista comportamentale Dan Ariely descrive come "momenti mobili in movimento" in cui le decisioni vengono prese da un utente mentre è impegnato, contemporaneamente, in una serie di compiti: hotel da prenotare, scelte di viaggio da fare, orari di lavoro da compiere. Mentre Ariely sta scrivendo in modo più ampio dal punto di vista dell'onnipresente marketing digitale, il linguaggio è puro googleleese, che sa di persuasione e imposizione. "Vuoi sviluppare una strategia per modellare le tue decisioni dei consumatori?" chiede a Google. "Inizia a comprendere i micro-momenti chiave del loro viaggio." Comprendili; nutrire la loro mente; tienili per mano.

La dipendenza da Google produce ciò che non può più essere visto come ritardante, ma incoraggiante. Una generazione sta crescendo senza una biblioteca di ricerca cartacea, un elenco pronto di classici e i mezzi per cercare tra i documenti senza ricorrere a quelle dannabili chiavi digitali. I dibattiti sono tenuti (alcuni già inquinano lo spazio digitale) sul fatto che questa sia necessariamente una condizione per lamentarsi. Abbraccia l'amnesia digitale! Per Google esiste.

Ciò che è innegabile è che i mezzi per trovare informazioni - istantanei, pieni di gloria, disperatamente rapidi - hanno creato utenti che abitano in uno spazio che guida il loro pensiero, anticipando, ingannando e adattandosi. Una forma di alfabetizzazione, potremmo dire gentilmente, è stata soppiantata da un'altra: l'imbecille di Google è alle porte.

Data la natura di tali effetti, non sorprende che i politici trovino Google minaccioso per il loro ammuffito e arrugginito sulle imbarcazioni. La riserva del politico è una comunicazione sana - o non fondata -; il successo alle prossime elezioni dipende dall'idea che gli elettori capiscano e approvino ciò che è stato loro trasmesso (se quel materiale è reale o no, una menzogna o meno, è un altro punto: il politico desidera ardentemente convincere per vincere).

Il vecchio titano del motore di ricerca offre qualcosa di simile in questo senso. Da un lato, offre alle classi politiche i mezzi per raggiungere un pubblico globale, una strada per strillare e promuovere il prossimo schema muto che viene alla mente dell'apparato politico. Ma cosa succede se il messaggio ostacola la strada, trovando ritardi nei mezzi di quella che viene chiamata "ottimizzazione dei motori di ricerca"? Google è da biasimare o impantanare l'ordinaria ordinarietà da parte del politico?

I politici statunitensi pensano di avere una risposta. Solo a loro è permesso il controllo della narrazione e la diffusione della menzogna. Di recente hanno cercato di tracciare un percorso a cui non sono abituati: regolare le industrie una volta salutate come sentinelle della libertà, promotori della libertà. Le loro lamentele tendono a mancare di coerenza. Da un lato, trovano problematici vari algoritmi di Google (preferenza per i siti alt-right, pappa cospiratoria come dannosa), ma la loro inclinazione è traballante e distorta. Se questi algoritmi fossero stati alla base di termini di ricerca favorevoli (conformista, costante, indiscusso, anti-Trump), la questione non sarebbe stata un inizio. Il nostro messaggio, direbbero, sta uscendo.

Questa settimana, la commissione per il commercio, la scienza e i trasporti del Senato degli Stati Uniti ha cercato di dare un senso, in modo piuttosto accusatorio, alla "tecnologia persuasiva". Nanette Byrnes arreda con una definizione: "l'idea che computer, telefoni cellulari, siti Web e altre tecnologie potrebbero essere progettati per influenzare il comportamento delle persone e persino gli atteggiamenti". Il Papa rimane decisamente cattolico.

La rotta audizione di commissione presentava opinioni come quelle del senatore John Thune (R-SD), che desiderava utilizzare il procedimento per redigere una legislazione che "richiederebbe alle piattaforme Internet di offrire ai consumatori la possibilità di interagire con la piattaforma senza avere l'esperienza plasmata da algoritmi". Il senatore è felice di accettare che l'intelligenza artificiale "alimenta le automazioni per visualizzare i contenuti per ottimizzare il coinvolgimento" ma vede un diavolo nelle opere, poiché "gli algoritmi AI possono avere un rovescio involontario e forse persino pericoloso". Ciò equivale a voler un Gran Premio di Formula 1 senza auto veloci e una gara di atletica al rallentatore.

Di fronte ai senatori da parte di Google c'era Maggie Stanphill, direttore di Google User Experience. Sua testimonianza era scritto in parole più simili alla lucentezza di un opuscolo di viaggio con una spolverata di cocaina in omaggio. "La Digital Wellbeing Initiative di Google è uno dei principali obiettivi dell'azienda, focalizzata sulla fornitura ai nostri utenti di approfondimenti sulle loro abitudini e strumenti digitali per supportare un rapporto intenzionale con la tecnologia". Google si limita a "creare prodotti che migliorano la vita delle persone che li usano". La società ha fornito l'accesso che ha "informazioni democratizzate e servizi per miliardi di persone in tutto il mondo". Alla domanda se Google stesse facendo la sua parte nel settore della persuasione, Stanphill era inequivocabile. "Non usiamo la tecnologia persuasiva."

Il tema della sessione era chiaro: una gran quantità di contenuti è buona, ma deve essere appropriata. In Information Utopia, dove Adamo ed Eva digitali sono ancora nudi, la malvagità non sarà permessa. Se le persone vogliono cercare contenuti "negativi" (questa orrenda natura arbitraria continua ad apparire), non dovrebbero essere autorizzati a farlo. Imbavagliali e assicurati che i termini popolari ricercati siano bianchi di qualsiasi importazione offensiva o pericolosa. Imporre ai titani della tecnologia la responsabilità di controllare il negativo.

Il senatore Brian Schatz (D-Hawaii) si è lamentato di quelle compagnie che "lasciavano correre questi algoritmi [...] lasciando che gli umani pulissero il caos. Gli algoritmi sono amorali. ”Tristan Harris, co-fondatore e direttore esecutivo del Center for Humane Technology, raggio della concorrenza tra aziende per utilizzare algoritmi che "predicono in modo più accurato ciò che terrà gli utenti lì più a lungo". Se si desidera massimizzare il tempo impiegato a cercare termini o, nel caso di YouTube, guardare un video, focalizzare "l'intera colonia di formiche dell'umanità nei confronti di Crazytown. "Per Harris," la tecnologia elimina le debolezze umane ". La morale? Non dare alle persone ciò che vogliono.

La rabbia contro l'algoritmo e la convinzione che nessuna spinta comportamentale si stia verificando nella tecnologia di ricerca, è fuori luogo su alcuni fronti. Ad un certo livello, tutti accettano come funzionano tali modalità di recupero delle informazioni. Il disaccordo sorge sulle loro conseguenze, una concessione, effettivamente, all'utente Google come imbecille. Stanphill è sconcertante nel ritenere che la tecnologia persuasiva non sia una funzione del lavoro di Google (è evidente, vista l'intenzione dell'azienda di migliorare il "rapporto intenzionale con la tecnologia"). Nella sua testimonianza, ha parlato della costruzione di "prodotti con privacy, trasparenza e controllo per gli utenti, e costruiamo una relazione permanente con l'utente, che è primaria." I senatori, a loro volta, sono preoccupati che gli utenti, pannolati da incoraggiamenti nei loro interessi di ricerca, non sono in grado di inventare le proprie fragili menti.

La natura delle informazioni gestite nell'esperienza digitale non è, come mostrano Google, YouTube e simili aziende, un caso di ampliamento delle conoscenze ma di riaffermazione di ipotesi esistenti. La camera dell'eco è irta di conferme e non di sfide, con il conforto del pregiudizio piuttosto che i disagi dell'apprendimento dell'artiglieria pesante. Ma i cittadini eletti sulla collina, e i cyber utopisti, continuano a lottare e saccheggiare nella giungla digitale che avevano visto come un'utopia dell'informazione uguale a tutti. Per i giganti della Big Tech, è tutto piuttosto semplice: l'attenzione che afferra lo spettacolo, i vagabondi sui sedili e il download a bizzeffe.

Leggi la storia completa qui ...