I tecnocrati si rivolgono agli etici per 'salvare la loro anima'

SocrateWikipedia Commons, Greg O'Beirne
Per favore, condividi questa storia!
I tecnocrati creano perché possono, non perché esiste un caso morale o etico per farlo. Nella loro mente, la tecnologia non è etica o morale e quindi non merita considerazione durante i processi di sviluppo. ⁃ Editor TN

Cinquantadue piani sotto la cima della Salesforce Tower, incontro Paula Goldman in una sala conferenze con pannelli di vetro dove le parole UFFICIO UFFICIO sono scritte su uno striscione patchwork, il tipo di decorazione che potresti acquistare per la festa di compleanno di un bambino.

Goldman ha un master conseguito a Princeton e un dottorato di ricerca. da Harvard, dove ha studiato come le idee controverse diventano mainstream. È arrivata a Salesforce poco più di un anno fa diventare il suo primo Chief Ethical and Humane Use Officer, assumendo un titolo senza precedenti e decisamente ambiguo, creato appositamente per il suo lavoro senza precedenti, ambiguo, ma altamente specifico: fare in modo che Salesforce migliori il mondo, non peggio.

"Penso che siamo in un momento nel settore in cui siamo a questo punto di svolta", mi dice Goldman. “Penso che l'industria tecnologica fosse già qui, con la sicurezza negli anni '80. All'improvviso c'erano virus e worm e doveva esserci un modo completamente nuovo di pensarci e affrontarli. E dopo hai visto crescere un'industria della sicurezza. E ora è solo un protocollo standard. Non spediresti un prodotto importante senza il red-teaming o assicurandoti che ci siano le giuste misure di sicurezza ".

"Penso che siamo in un momento simile con l'etica", dice. “Richiede non solo una serie di strumenti con cui svolgere il lavoro, ma anche una serie di norme, che è importante. Allora come ridimensionate queste norme? "

Le chiedo come sono decise quelle norme in primo luogo.

"In un certo senso, è la domanda da un miliardo di dollari", dice. “Tutti questi problemi sono estremamente complicati e ce ne sono pochissimi in cui la risposta è assolutamente chiara. Destra? Molto si riduce a, quali valori stai mantenendo più alti nel tuo calcolo? "

···

Sulla scia dello scandalo Cambridge Analytica, scioperi dei dipendenti e altri incidenti politici e sulla privacy, le aziende tecnologiche hanno dovuto affrontare un'ondata di chiamate a assumere quello che chiamano i ricercatori del Data & Society Research Institute "Proprietari di etica", persone responsabili dell'operatività in modi pratici e dimostrabili "degli antichi dibattiti sui valori umani che sono alla base dell'indagine etica", che saltano i domini e irrisolvibili.

Salesforce ha assunto Goldman lontano dalla rete Omidyar come culmine di un processo di gestione delle crisi di sette mesi che è venuto dopo che i dipendenti di Salesforce hanno protestato contro il coinvolgimento dell'azienda nel lavoro di immigrazione dell'amministrazione Trump. Altre aziende, rispondendo alle rispettive crisi e preoccupazioni, hanno assunto un piccolo gruppo di professionisti simili - filosofi, esperti di politiche, linguisti e artisti - tutti per assicurarsi che quando promettono di non essere malvagi, abbiano effettivamente un'idea coerente di cosa ciò comporta.

Allora cosa è successo?

Mentre alcune aziende tecnologiche hanno intrapreso passi concreti per inserire il pensiero etico nei loro processi, Catherine Miller, CEO ad interim della società di consulenza etica Doteveryone, afferma che ci sono stati anche molti "sbandamenti" sull'argomento.

I critici lo respingono come “Etica-lavaggio, "La pratica di inchinarsi semplicemente nella direzione dei valori morali al fine di evitare la regolamentazione del governo e la critica dei media. Il termine appartiene al crescente lessico dell'etica tecnologica, o "tetica", un'abbreviazione che iniziò come satira nello show televisivo "Silicon Valley", ma da allora è passata a un uso occasionale serio.

"Se non applichi queste cose nelle pratiche effettive e nelle tue strutture di incentivazione, se non hai processi di revisione, beh, allora, diventa come un vaporware morale", afferma Shannon Vallor, filosofo della tecnologia presso il Markkula Center per l'etica applicata presso la Santa Clara University. "È qualcosa che hai promesso e che intendevi mantenere, ma non è mai arrivato."

Google, famigerato, ha creato un Consiglio di intelligenza artificiale e poi, nell'aprile dello scorso anno, sciolto dopo i dipendenti hanno protestato l'inclusione di un sostenitore anti-LGBTQ. Oggi, l'approccio di Google all'etica include l'uso di "Schede modello"Che mira a spiegare la sua intelligenza artificiale.

"Non è niente che abbia denti", dice Michael Brent, esperto di etica dei dati presso Enigma e professore di filosofia presso l'Università di Denver. "È proprio come, 'Ecco una carta davvero bella.'"

L'azienda ha compiuto sforzi più sostanziali: Vallor ha appena completato un turno di servizio presso Google, dove ha tenuto seminari di etica agli ingegneri e ha aiutato l'azienda a implementare le strutture di governance per lo sviluppo del prodotto. "Quando parlo di etica in contesti organizzativi, il modo in cui lo presento spesso è che è l'insieme di conoscenze e abilità morali che aiuta le persone e le organizzazioni ad assumersi le proprie responsabilità verso gli altri", mi dice Vallor.

Più di 100 dipendenti di Google hanno frequentato corsi di formazione etica sviluppati presso il centro Markkula. La società ha anche sviluppato a modulo di equità come parte del suo corso di apprendimento automatico e aggiornamenti il suo elenco trimestrale di "pratiche di IA responsabili". "La stragrande maggioranza delle persone che compongono queste aziende desidera creare prodotti che siano utili per le persone", afferma Vallor. “Non vogliono davvero rompere la democrazia e non vogliono davvero creare minacce al benessere umano, e non vogliono davvero diminuire l'alfabetizzazione e la consapevolezza della realtà nella società. Vogliono fare cose di cui sono orgogliosi. Quindi farò quello che posso per aiutarli a raggiungere questo obiettivo? Sì."

···

Il centro Markkula, dove lavora Vallor, prende il nome da Mike Markkula Jr., il "Sconosciuto"Co-fondatore di Apple che, in 1986, ha concesso al centro una borsa di studio iniziale nello stesso modo in cui ha concesso un prestito iniziale al giovane Steve Jobs. Non ha mai voluto che il suo nome fosse nell'edificio - è stata una sorpresa, un segno di gratitudine, dall'università.

Markkula si è ritirato a vivere una vita tranquilla, lavorando nella sua vasta tenuta recintata a Woodside. In questi giorni, non ha molti contatti con l'azienda che ha fondato - "solo quando qualcosa va storto con il mio computer", mi dice. Ma quando è arrivato al campus di Santa Clara per un orientamento con sua figlia a metà degli anni '80, era il presidente di Apple ed era preoccupato per come stavano andando le cose nella Valley. "Era chiaro a entrambi, Linda [sua moglie] e io, che c'erano alcune persone che erano in posizioni decisionali che semplicemente non avevano l'etica sul loro schermo radar", dice. "Non è che non fossero etici, semplicemente non avevano strumenti con cui lavorare."

Leggi la storia completa qui ...

Sottoscrivi
Notifica
ospite

3 Commenti
il più vecchio
Nuovi Arrivi I più votati
Feedback in linea
Visualizza tutti i commenti
sto solo dicendo

"Tutti questi problemi sono estremamente complicati", afferma. I valori aumentano l'individuo. In un certo senso sì, dipende da noi individualmente, ma la questione non è complicata. Hanno abboccato e funziona. Sono importanti per se stessi e come tali si sono fatti dei piccoli dei che conoscono il bene e il male, non solo per se stessi, ma lo hanno anche scelto per noi. Etica e giurisprudenza vengono insegnate a scuola, ma sono state eliminate con la Bibbia. Basta guardare tutti gli avvocati che fanno pubblicità in televisione. La verità è che tutti noi siamo peccatori. Sì, quello... Per saperne di più »

Steve Prewitt

L'intero articolo mi ha colpito come "vaporware". L'etica è uno scherzo quando il più grande attore dell'industria sta lavorando a stretto contatto con la Cina, creando un gulag tecnocratico nazionale (e no, non sto parlando dei campi di "rieducazione" per i musulmani che definiscono il male).