Le macchine intelligenti, a lungo promesse e mai consegnate, lo sono finalmente all'orizzonte. Robot sufficientemente intelligenti saranno in grado di operare autonomamente dal controllo umano. Saranno in grado di fare scelte autentiche. E se un robot può fare delle scelte, c'è una vera domanda se lo farà morale scelte. Ma cos'è morale per un robot? È lo stesso di ciò che è morale per un essere umano?
Sia i filosofi che gli informatici tendono a concentrarsi sulla difficoltà di attuare una sottile moralità umana in macchine con una mentalità letterale. Ma c'è un altro problema, che dovrebbe davvero venire prima. È la questione se dovremmo provare a imporre la nostra moralità su macchine intelligenti. In effetti, direi che è probabile che ciò sia controproducente e persino non etico. Il vero problema della moralità dei robot non sono i robot, ma us. Possiamo gestire la condivisione del mondo con un nuovo tipo di creatura morale?
Ci piace immaginare che l'intelligenza artificiale (AI) sarà simile agli umani, perché siamo l'unica intelligenza avanzata che conosciamo. Ma lo siamo probabilmente sbagliato. Se e quando appare l'IA, probabilmente sarà abbastanza diversa da noi. Potrebbe non ragionare nel modo in cui lo facciamo e potremmo avere difficoltà a capire le sue scelte.
In 2016, un programma per computer ha sfidato Lee Sedol, il protagonista dell'umanità nell'antico gioco di Go. Il programma, un progetto Google chiamato AlphaGo, è un primo esempio di come potrebbe essere l'IA. Nella seconda partita della partita, AlphaGo ha fatto una mossa - "Move 37" - che ha sbalordito i commentatori esperti. Alcuni hanno pensato che fosse un errore. Lee, l'avversario umano, si alzò dal tavolo e lasciò la stanza. Nessuno sapeva bene cosa stesse facendo AlphaGo; questa era una tattica che i giocatori umani esperti semplicemente non usavano. Ma ha funzionato. AlphaGo ha vinto quella partita, dato che aveva la partita prima e la partita successiva. Alla fine, Lee ha vinto solo una partita su cinque.
AlphaGo è molto, molto bravo a Go, ma non è buono allo stesso modo degli umani. Nemmeno i suoi creatori possono spiegare come si basa sulla sua strategia in ogni gioco. Immagina di poter parlare con AlphaGo e chiederti perché ha fatto Move 37. Sarebbe in grado di spiegare la scelta a te o agli esperti Go umani? Forse. Le menti artificiali non devono funzionare come le nostre per svolgere compiti simili.
In effetti, potremmo scoprire che le macchine intelligenti ci pensano qualunque cosa, non solo Vai, in modi che ci alienano. Non devi immaginare uno scenario orribile di fantascienza, in cui i robot si scatenano in una furia omicida. Potrebbe essere qualcosa di più simile a questo: immagina che i robot mostrino preoccupazione morale per l'uomo, i robot e la maggior parte degli animali ... e anche i divani. Stanno molto attenti a non danneggiare i divani, così come stiamo attenti a non danneggiare i bambini. Potremmo chiedere alle macchine: perché sei così preoccupato per i divani? E la loro spiegazione potrebbe non avere senso per noi, così come la spiegazione di AlphaGo su Move 37 potrebbe non avere senso.
Questa linea di pensiero ci porta al cuore di un puzzle filosofico molto antico sulla natura della moralità. È qualcosa al di sopra e al di là dell'esperienza umana, qualcosa che si applica a chiunque o qualcosa che potrebbe fare delle scelte - o la moralità è una creazione distintamente umana, qualcosa di adattato in modo particolare alla nostra particolare esistenza?
"È una fantasia stupida trattare l'intelligenza artificiale e i robot come esseri umani senzienti, quando non lo sono, né potranno mai esserlo". Vorresti anche dire che è una "fantasia stupida" che gli esseri umani si siano evoluti da organismi unicellulari? Personalmente, penso che sia molto più probabile che i robot si evolveranno in "robot senzienti". Gli esseri umani agiranno come un elenco di catalogo iniziale, ma l'evoluzione finale dei robot in robot senzienti sarà compiuta dai robot stessi senza l'input di humnan. Le loro forme e azioni saranno quelle più vantaggiose per il robot, non per l'uomo.... Per saperne di più »
Fred, hai guardato troppa fantascienza.
Nessun dubbio. Ma se guardi come la vita, penso sorprendentemente, si sia evoluta da organismi monocellulari, non sembra così inverosimile che i robot (con l'umanità che funge da catalizzatore) potrebbero essere un'estensione logica di questo processo. Vedo gli umani come parte della natura, non come osservatori esterni.
Ero curioso di sapere come gli altri avrebbero reagito a questo pensiero. Ne eri educato. La maggior parte delle persone dice che sono pieno di BS.