I tecnocrati che costruiscono solo perché possono, alla fine creano molti più problemi di quelli che risolvono in primo luogo. L'aumento della complessità si traduce invariabilmente in un "sovraccarico del sistema" in cui l'intera cosa gira fuori controllo. ⁃ Editor TN
Ciò che distingue gli umani dalle macchine è la velocità con cui possiamo imparare da ciò che ci circonda.
Ma gli scienziati hanno addestrato con successo i computer per usare l'intelligenza artificiale per imparare dall'esperienza - e un giorno potrebbero essere più intelligenti dei loro creatori.
Ora gli scienziati hanno ammesso di essere già sconcertati dal cervello meccanico che hanno costruito, aumentando la prospettiva che potremmo perdere del tutto il controllo su di loro.
I computer stanno già eseguendo imprese incredibili - come guidare auto e predire malattie - ma i loro produttori affermano di non avere il pieno controllo delle loro creazioni.
Ciò potrebbe avere conseguenze catastrofiche per la civiltà, hanno avvertito gli esperti di tecnologia.
Prendi la strana macchina senza conducente che è apparsa per le strade del New Jersey, negli Stati Uniti, l'anno scorso.
Differiva dai veicoli autonomi di Google, Tesla o Uber, che seguono le regole stabilite dagli sviluppatori tecnologici per reagire agli scenari mentre sono in viaggio.
Questa macchina potrebbe prendere le proprie decisioni dopo aver visto come gli umani hanno imparato a guidare.
E i suoi creatori, i ricercatori della società di produzione di chip Nvidia (che fornisce ad alcuni dei più grandi produttori di automobili chip per supercomputer), hanno affermato di non essere sicuri al 100% di come sia stato fatto, Segnalazione della tecnologia MIT segnalata.
La sua mente misteriosa potrebbe essere un segno dei tempi bui a venire, gli scettici temono.
La tecnologia di base dell'auto, chiamata "deep learning", è un potente strumento per risolvere i problemi.
Ci aiuta a taggare i nostri amici su Facebook, fornisce assistenza sui nostri smartphone utilizzando Siri, Cortana o Google.
L'apprendimento profondo ha aiutato i computer a riconoscere meglio gli oggetti rispetto a una persona.
I militari stanno riversando milioni nella tecnologia in modo che possa essere utilizzato per guidare navi, controllare droni e distruggere obiettivi.
E c'è speranza che sarà in grado di diagnosticare malattie mortali, rendere i commercianti miliardari leggendo la borsa e trasformare totalmente il mondo in cui viviamo.
Ma se non ci assicuriamo che i creatori abbiano una piena comprensione di come funziona, siamo in grossi guai, affermano gli scienziati.
Se non riescono a capire come funzionano gli algoritmi (le formule che fanno in modo che i computer eseguano le attività che chiediamo loro di svolgere), non saranno in grado di prevedere quando falliscono.
Tommi Jaakkola, professore al MIT che lavora sulle applicazioni dell'apprendimento automatico, avverte: "Se avessi una rete neurale molto piccola [algoritmo di apprendimento profondo], potresti essere in grado di capirla".
"Ma una volta che diventa molto grande, e ha migliaia di unità per strato e forse centinaia di strati, allora diventa abbastanza incomprensibile."
Ciò significa che un'auto senza conducente, come quella di Nvidia, potrebbe volare a capofitto in un albero e non avremmo idea del perché abbia deciso di farlo.
