25 milioni di euro versati su 5 conti diversi durante un meeting virtuale. E’ la truffa che ha coinvolto il mese scorso la dipendente di una società di Hong Kong, ingannata da uno o più cybercriminali che si sono finti dirigenti usando la tecnica del deepfake. Il termine indica video e immagini creati con il deep learning che, partendo da una foto, permette di simulare le espressioni e la mimica facciale di un volto umano.
La donna era stata invitata a partecipare a una videoconferenza che avrebbe dovuto coinvolgere diversi suoi colleghi. Peccato che i partecipanti non erano persone reali, ma solo volti estrapolati da alcuni video e riprodotti con l’IA.
Durante la riunione, l’impiegata è stata invitata a effettuare 15 trasferimenti di denaro su cinque conti correnti, per un totale di 200 milioni di dollari di Hong Kong (circa 25 milioni di euro), con un messaggio del cfo della società che le chiedeva di mantenere il massimo riserbo sulla questione.
Un “Far West” di informazioni e controinformazioni politiche
Quanto successo a Hong Kong è la dimostrazione di come l’IA possa ingannare l’essere umano con la riproduzione di immagini false, seppur verosimili. Basti pensare alle reazioni di alcuni utenti alle simulazioni in rete che hanno coinvolto personaggi come Papa Francesco, Donald Trump e Silvio Berlusconi. Per gli esperti, il pericolo è che le immagini create con l’IA diventino così precise da arrivare a manipolare l’opinione pubblica o addirittura influenzare le elezioni politiche.
E per l’essere umano la vera sfida sarà proprio riuscire a distinguere le notizie reali dalle cosiddette fake news, in un’epoca in cui la fiducia nei media è ai minimi storici. “Rischiamo di trovarci davanti a un Far West di informazioni e controinformazioni politiche, con una capacità limitata di distinguere il falso dal vero e l’incertezza crescente andrà a influenzare di certo le elezioni”, rivela Darrell M. West, del centro di ricerca Brookings.
Una situazione a dir poco allarmante, se si considera che nel 2024, tra elezioni nazionali, comunitarie e locali, le urne saranno aperte in 76 Paesi (il 51% della popolazione mondiale). Negli Stati Uniti, ad esempio, l’intelligenza artificiale è già stata utilizzata da diversi politici per creare testi o spot elettorali allo scopo di portare gli elettori dalla propria parte, spesso con risultati esilaranti.
Lo spot con Trump e Fauci
Durante la pandemia da Covid-19, ad esempio, l’ex presidente degli Stati Uniti Trump ha assunto posizioni no vax, schierandosi contro le restrizioni sanitarie e arrivando a sostenere la possibilità di iniettare i disinfettanti nel sangue per combattere il virus. Nello stesso periodo non sono mancati attacchi verbali a esperti come il dottor Anthony Fauci, nominato capo consigliere medico dal successore di Trump, Joe Biden.
Nel giugno scorso, l’ex avversario repubblicano di Trump Ron DeSantis ha deciso di attaccare il suo avversario pubblicando su X (ex Twitter) un video fake creato dall’IA in cui l’ex presidente abbracciava Fauci. Se gli appassionati di politica hanno colto subito l’ironia, non sono mancati utenti che si sono lasciati ingannare dalle immagini.
Donald Trump became a household name by FIRING countless people *on television*
But when it came to Fauci… pic.twitter.com/7Lxwf75NQm
— DeSantis War Room 🐊 (@DeSantisWarRoom) June 5, 2023
Il caso italiano: da Papa Francesco a Berlusconi
L’IA non ha risparmiato neppure la politica italiana, a partire da Berlusconi. Tre mesi prima della sua morte, il creative strategist Claudio Riccio ha utilizzato il software Midjourney per rappresentare una folla di persone radunata in Piazza Duomo in attesa di celebrare le esequie del Cavaliere.
Tra i partecipanti alla cerimonia c’è chi si commuove, chi contesta, chi invece preferisce scattarsi un selfie accanto alla bara d’oro massiccio dell’ex premier. In un’immagine si riconosce anche il presidente russo Vladimir Putin con occhiali scuri ed espressione triste.
E che dire poi di Papa Francesco, immaginato con un giubbotto Moncler durante un’uscita pubblica. Ancora una volta l’autore è il software Midjourney. Un’immagine così accurata da trarre in inganno diversi utenti di X, tra questi la modella americana Chrissy Teigen:
“Pensavo che il piumino del papa fosse vero e non ci ho pensato due volte. Non vedo come potrò sopravvivere al futuro della tecnologia”. La foto è diventata talmente virale da spingere gli utenti a realizzare una serie di varianti nei giorni successivi alla sua uscita.
Le multinazionali al lavoro per etichettare i contenuti creati con l’IA
Per permettere agli utenti di identificare i contenuti generati dall’intelligenza artificiale, le multinazionali hanno iniziato a lavorare per etichettare foto e video in rete. Nei prossimi mesi, Meta ha annunciato l’intenzione di marchiare con una specifica etichetta i contenuti prodotti artificialmente e condivisi su Facebook, Instagram e Threads.
Un’iniziativa che punta a coinvolgere anche le altre piattaforme in rete. L’azienda, infatti, ha dichiarato di impegnarsi per lo sviluppo di strumenti leader nel settore per etichettare le immagini di OpenAI, Adobe, Midjourney, Shutterstock e Google.
Quest’ultima si è unita alla battaglia di Meta, aderendo alla Coalition for Content Provenance and Authenticity, un gruppo guidato da Adobe che mira a sviluppare standard tecnici per la certificazione della fonte e della storia (o provenienza) dei file multimediali. A queste aziende si è unita anche OpenAi, sviluppatore di ChatGpt, che ha espresso la volontà di inserire informazioni aggiuntive alle immagini create con il suo chatbot attraverso il modello Dall-E 3.
Per altri contenuti iscriviti alla newsletter di Forbes.it CLICCANDO QUI .
Forbes.it è anche su WhatsApp: puoi iscriverti al canale CLICCANDO QUI .