Un’intelligenza artificiale addestrata sul Dna ha creato 16 nuovi virus

Un modello di intelligenza artificiale di OpenAI ha inventato più di una dozzina di nuovi virus che infettano i batteri, dopo che alcuni scienziati della Stanford University hanno addestrato il modello a riconoscere gli schemi della struttura del Dna presenti in natura e a riscriverli per creare genomi virali mai visti prima.

Fatti principali

• In uno studio pubblicato giovedì sulla rivista Science, gli scienziati hanno spiegato come siano riusciti ad addestrare un modello generativo di OpenAI chiamato Evo per progettare da zero genomi virali completamente funzionali.
• In modo simile a come i modelli linguistici vengono addestrati su enormi quantità di testi, gli scienziati hanno addestrato Evo su una vastissima quantità di dati relativi al Dna, comprendenti milioni di genomi. A partire da questi dati, il modello ha appreso i vincoli evolutivi che determinano la forma delle sequenze di Dna in natura e ha scritto le proprie “ricette” per nuovi virus.
• Dopo che gli scienziati hanno sintetizzato in laboratorio il Dna progettato dall’AI, 16 dei fagi generati sono riusciti a infettare E. coli, in alcuni casi superando con successo i naturali meccanismi di resistenza del batterio.
• I nuovi virus presentavano sequenze con caratteristiche diverse da qualsiasi altra cosa riscontrata in natura.
• Gli autori dello studio hanno escluso dai dati utilizzati per l’addestramento quelli relativi agli agenti patogeni umani, il che significa che i virus creati non sono in grado di infettare le persone. I risultati arrivano però in un contesto di crescente preoccupazione tra gli scienziati per la possibilità che un giorno l’AI possa essere utilizzata per creare una nuova generazione di armi biologiche.
• La possibilità di progettare su misura nuovi virus funzionali potrebbe anche portare a importanti progressi nel trattamento dei superbatteri resistenti agli antibiotici, consentendo agli scienziati di generare terapie personalizzate anziché dover cercare in natura virus capaci di colpire specifici batteri.

Principali critiche

Diversi studiosi di biosicurezza, funzionari della sanità pubblica e biologi sintetici hanno espresso preoccupazione per la velocità con cui l’AI sta progredendo nel campo della biologia e per la mancanza di adeguati quadri normativi.

In un commento di accompagnamento pubblicato su Science, gli esperti di biosicurezza Thomas Inglesby e Moritz Hanke del Johns Hopkins Center for Health Security hanno avvertito che la ricerca di Stanford dimostra che l’AI è ormai in grado di inventare pericolose armi biologiche. Hanno chiesto l’introduzione di leggi severe per regolamentare le ricerche future e sostenuto che dovrebbe essere illegale utilizzare tecniche generative simili su agenti patogeni che colpiscono esseri umani, animali o colture agricole.

Citazione chiave

“Si potrebbe dire: ‘Ehi, modello linguistico genomico, creami un genoma dell’influenza modificato in modo da essere più trasmissibile o più letale'”, ha dichiarato Hanke al New York Times.

Contro

Tom Ellis, professore di ingegneria dei genomi sintetici all’Imperial College di Londra, ha dichiarato al Guardian di non ritenere che creare un’arma biologica capace di colpire gli esseri umani sarebbe altrettanto semplice.

Secondo Ellis, i virus creati da Evo hanno “letteralmente il genoma più piccolo e più facile da realizzare” e semplici restrizioni sull’accesso ai dati genetici potrebbero fare una grande differenza.

Contesto

Da mesi gli scienziati discutono sull’opportunità di limitare le potenzialità dei software di intelligenza artificiale applicati alla biologia. Se da una parte alcuni sostengono che questa tecnologia possa accelerare la ricerca biomedica con effetti positivi, dall’altra gli stessi modelli potrebbero essere utilizzati impropriamente per contribuire a identificare, progettare o ottimizzare minacce biologiche, qualora non venissero introdotte adeguate misure di sicurezza.

Le principali aziende di intelligenza artificiale hanno collaborato alla creazione del Frontier Model Forum, un’organizzazione non profit nata, tra le altre cose, per studiare i rischi derivanti dall’intersezione tra AI e biologia, sviluppare standard di sicurezza e ridurre la possibilità che i modelli di frontiera vengano sfruttati per un uso improprio in campo biologico.

Oltre alle preoccupazioni legate alla possibilità che i modelli addestrati siano in grado di creare nuove minacce, molti sostengono che questi strumenti abbasseranno le barriere di accesso alle conoscenze per soggetti malintenzionati alla ricerca di informazioni su agenti patogeni pericolosi. Ad aprile, alcuni scienziati hanno riferito al Times di aver posto a chatbot di intelligenza artificiale una serie di domande e di aver ricevuto, in risposta, una guida passo dopo passo su come assemblare agenti patogeni letali e diffonderli in luoghi pubblici.