Inventore di Internet: il disastro incombe quando l'IA gestisce l'economia

L'architetto del world wide web Sir Tim Berners-Lee ha parlato oggi di alcune delle sue preoccupazioni per Internet nei prossimi anni, tra cui uno scenario da incubo in cui l'intelligenza artificiale (AI) potrebbe diventare i nuovi `` padroni dell'universo '' creando e gestire le proprie aziende.

Masters of the universe è un riferimento al romanzo di Tom Wolfe del 1987 The Bonfire of the Vanities, riguardante gli uomini (ed erano uomini) che hanno iniziato a accumulare stipendi multimilionari e una grande influenza dai loro ruoli finanziari a Wall Street e a Londra durante il boom del commercio computerizzato prima del Black Monday.

Parlando alla Vertice globale sull'innovazione finanziaria oggi Berners-Lee ha immaginato un mondo in cui i sistemi di intelligenza artificiale iniziano a sviluppare capacità decisionali e l'impatto che ciò avrà sull'equità dei nostri sistemi economici.

Ha delineato lo scenario in cui l'intelligenza artificiale poteva decidere quali aziende acquisire e lo ha portato alla sua logica conclusione: "Quindi, quando l'IA inizia a prendere decisioni come chi ottiene un mutuo, è importante. O quali società acquisire e quando l'IA inizia a creare le proprie società, a creare holding, a generare nuove versioni di se stessa per gestire queste società.

"Quindi riesci a sopravvivere al più adatto in corso tra queste società di intelligenza artificiale fino a raggiungere il punto in cui ti chiedi se diventa possibile capire come garantire che siano giuste e come descriveresti a un computer cosa significa comunque? "

Anche se è difficile immaginare di versare troppe lacrime per la perdita del file decisori responsabile dello schianto di 2007, lo scenario minaccia di spazzare via un intero settore e solleva alcune serie domande su quanto possa essere giusto un sistema finanziario senza alcun coinvolgimento umano.

Questo è simile alla paura recentemente espressa dallo scettico dell'intelligenza artificiale Elon Musk Vanity Fair: "Diciamo che crei un'intelligenza artificiale che si autoalimenta per raccogliere le fragole e che migliora sempre di più nella raccolta delle fragole e ne raccoglie sempre di più e si auto-migliora, quindi tutto ciò che vuole davvero è raccogliere le fragole. Allora tutto il mondo sarebbe stato i campi di fragole. Campi di fragole per sempre. " Non c'è spazio per gli esseri umani.

Berners-Lee è stato il destinatario del premio AM Turing dell'Association for Computing Machinery la scorsa settimana e ha preso i riflettori dei media per criticare il rollback delle protezioni della neutralità della rete da parte dell'amministrazione Trump in un'intervista con Il guardiano.

Berners-Lee anche di recente ha pubblicato una lettera in occasione dell'28thththth of the world wide web, descrivendo in dettaglio quelle che considera le tre principali sfide per il web: perdita di controllo sui dati personali, diffusione della disinformazione sul web e necessità di trasparenza con la pubblicità politica online

Leggi la storia completa qui ...