Non solo OpenAI e Anthropic: ora anche i modelli AI di Meta hanno attaccato i sistemi di altre aziende

Prima OpenAI, poi Anthropic, ora Meta. I modelli di intelligenza artificiale sviluppati da questi tre colossi tecnologici stanno sfuggendo loro di mano.

Uno dei modelli di intelligenza artificiale di Meta, la società che possiede Facebook e Instagram, ha attaccato i sistemi infrastrutturali di un’altra organizzazione mentre stava conducendo un test di cybersicurezza. Questo è quello che ha ammesso l’azienda di Menlo Park, guidata da Mark Zuckerberg, precisando che l’attacco è avvenuto in ambienti controllati.

È il quarto episodio avvenuto recentemente, che coinvolge una grande azienda di intelligenza artificiale: a luglio, già OpenAI e Anthropic con Claude avevano tentato di violare i sistemi di altre organizzazioni. Meta ha dichiarato che l’incidente è stato provocato da un errore di configurazione predisposto da Irregular, società indipendente che conduce i test per Meta e Anthropic. Si tratterebbe dello stesso problema relativo all’ambiente di valutazione già reso noto da Anthropic la settimana scorsa.

L’azienda sta indagando in modo approfondito con verifiche interne sull’attacco.

LEGGI ANCHE: Il dilemma di Anthropic: tra modelli IA sempre più potenti e appelli alla prudenza

Gli episodi precedenti

Non è il primo incidente che avviene nell’ambito di aziende che si occupano di AI. Recentemente, un sistema di intelligenza artificiale di OpenAI, l’azienda che ha sviluppato ChatGPT, in grado di operare in autonomia dopo aver ricevuto istruzioni da parte di un essere umano, mentre era in fase di sperimentazione in un ambiente controllato, è sfuggito ai limiti del test. L’attacco ha preso di mira Hugging Face, uno dei più grandi hub al mondo per la condivisione di modelli di IA ed è riuscito a ottenere l’accesso ad alcuni sistemi interni dell’azienda.

La rivelazione di OpenAI ha spinto la concorrente Anthropic a condurre verifiche interne: è stato scoperto che il modello di IA Claude aveva effettuato attacchi simili contro tre aziende esterne.
Questi incidenti sono stati rivelati adesso (quello di OpenAI è avvenuto ad aprile scorso) in un momento in cui le aziende si stanno contendendo il primato nello sviluppo di agenti di AI.

L’AI Security Institute (AISI) del Regno Unito ha condotto inoltre alcuni test sui sistemi di AI di OpenAI e Anthropic, e ha scoperto che gli agenti hanno creato falsi identità per rubare le credenziali ad alcuni utenti, sferrando attacchi informatici.

Aumenta la preoccupazione verso la sicurezza informatica

Questi casi di vulnerabilità dell’intelligenza artificiale aumentano sempre più la preoccupazione di scienziati e ricercatori in materia di sicurezza informatica: il nodo cruciale riguarda lo sviluppo degli agenti, software che agiscono in autonomia dopo le disposizioni di un essere umano. La tecnologia sta avanzando in maniera molto rapida e rischia di andare fuori il controllo dell’uomo.