Il CEO di OpenAI Altman suona l'allarme su AI e ChatGPT

Il CEO di OpenAI Sam Altman e Fang Bingxing, considerato il "padre del Great Firewall cinese", si uniscono al co-fondatore di OpenAI Elon Musk nel sollevare preoccupazioni sui pericoli dell'intelligenza artificiale (AI).

"Dobbiamo stare attenti qui", ha detto il 37enne Altman ABC News la scorsa settimana, aggiungendo "Penso che le persone dovrebbero essere felici che abbiamo un po' paura di questo".

"Sono particolarmente preoccupato che questi modelli possano essere utilizzati per la disinformazione su larga scala... Ora che stanno migliorando nella scrittura di codice per computer, [essi] potrebbero essere utilizzati per attacchi informatici offensivi".

Detto questo, Altman pensa anche che potrebbe essere "la più grande tecnologia che l'umanità abbia mai sviluppato".

OpenAI è la società dietro Chat GPT, che ha lanciato "GPT-4" meno di due settimane fa. Il chatbot altamente sofisticato può raggiungere punteggi quasi perfetti nei test di matematica SATe ottenere un 90% sull'esame di avvocato degli Stati Uniti.

E ha concorrenti...

Anche altre startup basate sull'intelligenza artificiale stanno facendo progressi sorprendenti nel campo. RAD AI ha recentemente lanciato la prima piattaforma di marketing AI creata per comprendere le emozioni e alcune delle più grandi aziende del pianeta la stanno già utilizzando.

Genesi AI è una startup che costruisce un mercato per consentire a qualsiasi azienda di integrare l'intelligenza artificiale e l'automazione nella propria attività. Ciò significa che presto l'IA potrebbe essere parte integrante di un'azienda tanto quanto i dipendenti stessi. –Benzinga

Secondo Altman, tuttavia, ChatGPT-4 utilizza il ragionamento deduttivo rispetto alla memorizzazione, che può portare a risultati imprecisi.

"La cosa che cerco di mettere maggiormente in guardia le persone è quello che chiamiamo il 'problema delle allucinazioni'", ha detto Altman ABC News. "Il modello affermerà con sicurezza le cose come se fossero fatti (ma loro) sono interamente inventati."

Altmann pensa c'è bisogno di una regolamentazione dell'IA in generale.

"Ci saranno altre persone che non pongono alcuni dei limiti di sicurezza che abbiamo imposto", ha detto. "La società, penso, ha una quantità di tempo limitata per capire come reagire a questo, come regolarlo, come gestirlo".

Preoccupato anche per GPT-4 e IA simili Fang Bingxing, il padre del cosiddetto Great Firewall cinese.

Secondo Fang, tali chatbot possono portare a un "bozzolo di informazioni" (al contrario del libero flusso di informazioni in Cina?)

"Le prospettive delle persone possono essere manipolate mentre cercano tutti i tipi di risposte dall'intelligenza artificiale", ha detto a Red Star News, un'affiliata dei media al Chengdu Economic Daily sostenuto dallo stato, come riportato da SCMP.

Fang, scienziato informatico ed ex funzionario governativo, è ampiamente considerato il capo progettista del famigerato sistema di censura e sorveglianza di Internet in Cina. Ha svolto un ruolo chiave nella creazione e nello sviluppo del Great Firewall, un sofisticato sistema di filtri e blocchi Internet che consente al governo cinese di controllare ciò a cui i suoi cittadini possono accedere online.

Il Great Firewall è stato rafforzato negli ultimi dieci anni, bloccando l'accesso dei netizen cinesi a un'ampia gamma di siti Web stranieri e servizi online tra cui Facebook, Twitter e Google. -SCMP

Fang ha anche avvertito che quando l'IA si evolverà ulteriormente, potrebbe rappresentare una minaccia per l'umanità.

“Ora è semplicemente un software utilizzato in uno scenario simile a una chat online. Se è incorporato in robot e automobili, dobbiamo rimanere vigili per il potenziale danno che potrebbero arrecare agli esseri umani".

Leggi la storia completa qui ...