"L'Ia può portare l'umanità all'estinzione": la lettera aperta di Sam Altman e altri 350 esperti

Se alcuni dei più autorevoli manager, ricercatori e ingegneri di tutto il mondo (più di 350) uniscono le loro forze per denunciare i pericoli dell’intelligenza artificiale, significa che c’è più di una falla nel sistema. Personalità come Samuel Altman, ceo di OpenAI, gli altri co-fondatori della società Ilya Sutskever e John Schulman, Kevin Scott, cto di Microsoft, Jaan Tallinn, co-fondatore di Skype, il numero uno di Google DeepMind, Demis Hassabis, il leader di Anthropic, Dario Amodei, e dozzine di docenti delle più prestigiose università al mondo, come Harvard, Yale e Stanford. Senza dimenticare le tante figure tecniche specializzate nella sicurezza informatica provenienti da Google.

“Mitigare il rischio di estinzione dell’Ai”

In poche ma eloquenti righe, sul sito della no profit Center for Ai Safety si legge: “Mitigare i rischi di estinzione legati all’intelligenza artificiale dovrebbe essere una priorità globale, assieme ad altri rischi per la società, come pandemie e guerra nucleare”. È il grido d’allarme degli esperti del settore.

La dichiarazione è presentata così: “Esperti di intelligenza artificiale, giornalisti, responsabili politici e gente comune discutono sempre di più sui rischi derivanti dall’Ia. La dichiarazione che segue mira a superare questo ostacolo e ad aprire una discussione. Ha anche lo scopo di sollecitare una presa di coscienza comune tra esperti e personaggi pubblici che prendono sul serio anche i rischi più gravi legati all’Ai avanzata. Mitigare il rischio di estinzione dell’Ai dovrebbe essere una priorità globale insieme ad altri rischi su scala sociale come le pandemie e la guerra nucleare”.

Persino Geoffrey Hinton e Yoshua Bengio, due dei tre ricercatori che hanno vinto un Turing Award per il loro lavoro pionieristico sulle reti neurali, considerati i ‘padrini’ della moderna intelligenza artificiale, hanno firmato la dichiarazione.

L’appello di Altman al presidente Biden

Come riporta il Ny Times, di recente Altman, Hassabis e Amodei hanno incontrato il presidente degli Stati Uniti, Joe Biden, e la vicepresidente Kamala Harris per parlare proprio di intelligenza artificiale. “In una testimonianza al Senato dopo l’incontro, Altman ha avvertito che i rischi dell’Ai avanzata erano abbastanza seri da giustificare l’intervento del governo e richiedevano una puntuale regolamentazione per prevenire danni potenziali”, si legge.

Gli esperti non si sono limitati però a mettere in guardia dai pericoli della tecnologia, ma hanno proposto soluzioni concrete attraverso con cui avanzati sistemi di Ai potrebbero essere gestiti in modo responsabile.

Ad esempio, hanno chiesto la cooperazione tra i principali esponenti del settore, una ricerca più tecnica sui grandi modelli linguistici e la formazione di un’organizzazione per la sicurezza, simile all’Agenzia internazionale per l’energia atomica, impegnata a limitare l’uso delle armi nucleari.

La lettera aperta di marzo

La lettera di oggi non rappresenta un episodio isolato: già a marzo, più di 1.000 esperti e ricercatori avevano firmato un’altra lettera aperta, chiedendo uno stop di sei mesi sullo sviluppo del più grande programma di intelligenza artificiale,  parlando di “una corsa fuori controllo per sviluppare e distribuire menti digitali sempre più potenti”.

LEGGI ANCHE: Elon Musk e migliaia di esperti: “Fermiamo lo sviluppo di sistemi AI più potenti di Gpt-4″

La cantante che ha messo la sua voce a disposizione dell’Ia

Tra i firmatari sul sito di Center for AI Safety compare anche la cantante canadese Grimes, ex compagna di Musk.

Qualche giorno fa, Grimes (il cui vero nome è Claire Boucher) aveva comunicato su Twitter l’intenzione di mettere a disposizione la sua voce affinché chiunque potesse utilizzarla per creare brani nuovi.

“Stiamo creando un programma che dovrebbe simulare bene la mia voce, ma potremmo anche mettere a disposizione file grezzi perché ognuno possa addestrare la sua Ia. Dividerò il 50% dei diritti d’autore su qualsiasi canzone generata dall’intelligenza artificiale, stesso accordo che avrei con qualsiasi artista con cui collaboro. Sentitevi liberi di usare la mia voce senza alcuna restrizione. Non ho un’etichetta e non ho vincoli legali”, scriveva.