Sono passati più di otto anni da quando i centri stranieri di produzione di contenuti hanno creato su Facebook pagine di fake news che si spacciano per americane. La loro attività, ora alimentata dall’IA, va ancora forte.
L’idea di America è un grande business su Facebook. Il social ha ospitato più di 100 pagine che hanno adottato come tema il patriottismo americano, con nomi come Proud American (‘Americano orgoglioso’), Proud to Be An American (‘Orgoglioso di essere americano’), American Story (‘Storia americana’) e We Are America (‘Noi siamo l’America’).
La gran parte di queste pagine, però, non è affatto americana, nonostante i nomi. È invece gestita da fabbriche straniere dei clic, molte delle quali si trovano in Macedonia, che usano l’intelligenza artificiale per produrre un oceano quasi infinito di materiale da clickbait. I post che condividono preghiere per i soldati americani, tweet riscritti, meme e foto di pin-up hollywoodiane di una volta rimandano ad articoli generati dall’intelligenza artificiale, che servono per vedere pubblicità. Titoli come ‘Pompieri devoti rischiano le loro vite per salvare gli altri’ e ‘L’eroismo di un padre: la tragica storia di Phil Dellegrazie e di suo figlio Anthony’ rimandano ad articoli brevi, privi di informazioni, su siti pieni di pubblicità, spesso a sfondo sessuale. Le pagine che li promuovono si fingono americane perché guadagnano soldi ogni volta che qualcuno clicca su uno dei loro link, e nel mondo della pubblicità, i clic degli americani sono tra quelli che valgono di più.
Un’analisi di Forbes ha identificato 67 pagine Facebook – ora rimosse – che si identificavano come campioni dell’informazione, della cultura o dell’identità americana, ma che avevano in realtà la sede all’estero. Al 20 agosto avevano più di nove milioni di follower totali, più di quelle del Wall Street Journal o del Washington Post. Trentatré di queste pagine erano gestite dalla Macedonia, mentre le altre erano suddivise tra 23 paesi, tra cui Canada, Francia, Marocco, Venezuela e Vietnam.
Dal 2016 a oggi
I cacciatori di clic, e in particolare quelli macedoni, hanno una lunga storia su Facebook. Durante le elezioni presidenziali del 2016, adolescenti del piccolo paese europeo diffusero fake news tra milioni di americani su Facebook, guadagnando decine di migliaia di dollari di introiti pubblicitari. Nel 2019 simili pagine est europee seguirono lo stesso modello, questa volta raggiungendo quasi la metà di tutti gli americani sulla piattaforma.
Ora l’intelligenza artificiale ha dato a queste attività la capacità di produrre volumi quasi infiniti di notizie di bassa qualità (o del tutto false). E almeno in alcuni casi, questa spazzatura prodotta dall’IA sta facendo breccia. Le pagine hanno iniziato a usare immagini generiche prodotte dall’IA (aquile di mare testabianca, stelle e strisce, soldati in mimetica e qualche Statua della Libertà qua e là) per attirare gli utenti americani di Facebook, e almeno in alcuni casi sta funzionando. Un post realizzato nei giorni scorsi dalla pagina canadese American Patriots, che mostrava una foto generata dall’IA di un soldato americano con i figli, ha ricevuto oltre 100mila like e 35mila commenti. La pagina American Patriots, come la maggior parte delle altre, indirizzava le persone da Facebook ad articoli di bassa qualità.
Gli articoli generati dall’IA
Forbes ha sottoposto tre degli articoli di American Patriots a un rilevatore di testi composti con l’IA chiamato Gpt-Zero, secondo cui le probabilità che fossero stati creati con l’intelligenza artificiale era del 79%, dell’85% e del 100%. Il rilevatore ha concluso anche che articoli a cui rimandavano la pagina spagnola We Love America e la macedone American Story avevano il 100% di probabilità di essere stati generati dall’IA. (L’autrice di questo pezzo, in una vita precedente, ha ricoperto ruoli nell’ambito della politica sui contenuti in Facebook e Spotify).
“Ogni piattaforma ha degli incentivi, che forniscono una finestra su ciò che si trova al cuore di Facebook, su ciò che lo fa funzionare”, ha dichiarato Jeff Allen, co-fondatore dell’Integrity Institute ed ex data scientist di Facebook, che ha tracciato dall’interno le reti di amministratori di pagine spam. A suo giudizio, i cacciatori di clic sono “una grande lente di ingrandimento sulle parti più repellenti del nostro cervello”.
La portavoce di Meta Margarita Franklin ha dichiarato a Forbes che tutte le 67 pagine violavano le regole di Meta sul comportamento non autentico, perché rappresentavano in modo falso la loro collocazione. Tutte sono state rimosse. Non è necessariamente una violazione delle regole di Meta creare una pagina su un paese mentre si vive in un altro, ma il problema nasce quando ingannano le persone sulla loro provenienza. Franklin ha detto che le pagine erano attive da poco più di una settimana quando Forbes le ha segnalate.
Il business della rabbia
Franklin ha affermato anche che, sebbene l’IA faciliti la generazione di contenuti agli spammatori e ai truffatori, per loro la sfida principale è sempre stata attirare l’attenzione sulle loro pagine, a prescindere dal fatto che siano create con l’intelligenza artificiale. Un recente Meta Threat Report ha riscontrato che l’IA generativa ha “prodotto solo un piccolo aumento della produttività e della generazione di contenuti” per “coloro che rappresentano una minaccia”, perché il costo di creare articoli clickbait di bassa qualità è sempre stato piuttosto basso.
Quando le content farm macedoni sono esplose su Facebook, nel 2016, puntavano molto su esche per cittadini arrabbiati, con contenuti molto di parte che riguardavano questioni divisive come l’immigrazione, i diritti dei trans, la razza e la polizia. Il principio era semplice: scrivere su ciò che aveva le maggiori probabilità di coinvolgere le persone. All’epoca i post su questi temi spesso erano in cima alle classifiche dell’engagement su Facebook.
L’algoritmo di Facebook, però, si è allontanato dalla politica negli otto anni trascorsi da allora. L’azienda ha iniziato a penalizzare pesantemente i post a tema politico dopo la rivolta del Campidoglio del 6 gennaio 2021, che era stata in parte organizzata sulle sue piattaforme.
Gattini e fake news
Alcune delle pagine patriottiche americane presentavano ancora argomenti politici, con post recenti su questioni come la critical race theory e i diritti dei trans. Nel complesso, però, le pagine non trattavano la politica. Nella maggior parte dei casi proponevano articoli da tabloid, come storie di sposi infedeli (‘Non crederete a quello che ha fatto dopo!’) o colletti blu maltrattati che si vendicano delle elite che li snobbavano. Un fatto curioso è che su tutte le pagine erano sempre presenti meme sul personaggio televisivo e giudice di America’s Got Talent Simon Cowell. Oltre a rivedere i loro contenuti per rispecchiare l’allontanamento dalla politica dell’algoritmo di Facebook, le pagine hanno dato anche altri segni di adattarsi alle regole e agli incentivi in perenne mutamento della piattaforma. Per esempio, Facebook ha ridotto la penetrazione dei link ‘spammosi’, ma dà la priorità ai commenti dell’amministratore di una pagina ai suoi stessi post. Di conseguenza, queste pagine spesso postavano un meme o altre immagini che riassumevano il senso di un articolo, e poi postavano il link nel commento.
Alcune delle pagine hanno usato anche altri trucchi per aumentare l’engagement che sono popolari da tempo. Una pagina con sede in Kosovo, chiamata Animals News America, ha diffuso post clickbait simili (e in alcuni casi identici) a quelli di altre pagine che non hanno come tema gli animali. Ma postava anche regolarmente gattini e cuccioli, usando una strategia impiegata in passato da noti propalatori di disinformazione come Joseph Mercola, un dottore negazionista del Covid, e Ntd News, brand fratello di Epoch Times dedicato al Falun Gong.
Dopo che Forbes ha inviato una richiesta di commento, Meta ha eliminato tutte le pagine.
Condizionamento politico a intermittenza
Anche se queste pagine non venivano usate di proposito per plasmare le opinioni politiche delle persone, i cacciatori di clic, dice Allen, a volte convertono le loro pagine in operazioni deliberate di condizionamento geopolitico. Quando era ancora a Facebook, ha osservato un’attività con sede in Thailandia che puntava, con le sue pagine di politica, agli utenti del Myanmar. “A intermittenza erano al soldo di campagne politiche”, ha detto. “Ma quando non si era in campagna elettorale, conducevano le stesse identiche operazioni, solo facendo soldi per sé”.
Tutto questo rende le pagine meno innocue di quanto potrebbero sembrare. “Scommetto che ci sono un sacco di attività di influenza straniera a cui piacerebbe comprare queste pagine al momento giusto. Perciò ci sono momenti in cui le ‘click farm’ possono diventare molto più nefaste”, ha detto Allen. Dopo che i primi cacciatori di clic macedoni furono scoperti, Facebook lanciò una funzione per permettere agli utenti di vedere da che paese è gestita una pagina, se ha almeno cinquemila follower o se dà spazio a messaggi politici. Il paese d’origine dell’amministratore della pagina, però, è spesso nascosto in un oscuro pannello chiamato Page Transparency, e i commenti ai post delle pagine straniere a tema americano indicano che molte delle persone che interagiscono non sanno che le pagine sono gestite da stranieri.
Le stesse pagine a tema americano erano deliberatamente fuorvianti. Un post pubblicato pochi giorni fa da una pagina chiamata America Today recita: “Non un centesimo a paesi che mancano di rispetto alla nostra bandiera e ai nostri valori!”. La pagina era gestita dalla Macedonia.
Franklin ha sottolineato che, in alcuni casi, ora Meta mostra la sede dei gestori di alcune pagine direttamente nel News Feed di Facebook.
Che cosa succede sulle altre piattaforme
Gli account che si fingono americani potrebbero essere un problema largamente diffuso sui social media. Va dato atto a Facebook si essere l’unica grande piattaforma a rivelare da quale paese sono gestite le sue pagine con molti seguaci. Altre, come YouTube e TikTok, permettono agli utenti di dichiarare un luogo se lo desiderano, rendendo più difficile individuare i profili che fingono di essere americani. Gli incentivi, in ogni caso, sono gli stessi. Parveen Kumar Shah, che tramite il suo canale TubeSensei fa da consulente su come costruirsi un pubblico su YouTube e Instagram, di recente ha suggerito ad altri creatori di pagine di fingersi americani. Perché? Perché in questo modo si guadagnano più soldi.
L’intelligenza artificiale rende il tutto ancora più facile. In un’intervista ha dichiarato a Forbes che ora “se non vuoi mostrare la tua faccia, tutto può essere fatto con l’IA”. Su YouTube, Shah ha mostrato ai suoi follower come creare pagine sul tema della mascolinità per adolescenti americani con nomi come Far from Weak (‘Tutt’altro che deboli’) e Sigma Male (‘Maschio sigma’). Ha detto a Forbes: “Puntare a quel genere di pubblico è molto facile, perché il cervello di un adolescente è molto facile da plasmare”.
Che cosa aspetta le piattaforme
Su YouTube ci sono molti video che spiegano come nascondere il proprio paese di residenza sulla piattaforma o come mostrarne uno falso, dando l’impressione che il canale sia gestito da un’altra parte del mondo. Per Shah questo è un semplice calcolo economico: YouTube paga chi gestisce i canali in base alle pubblicità che passano sul suo canale, e gli inserzionisti spendono molto di più sui mercati occidentali che in India. Sul canale TubeSensei ha spiegato: “Il nostro canale sarà per un pubblico americano, e non appena gli statunitensi scopriranno che un canale è indiano, o che dietro c’è un creatore di contenuti indiano, smetteranno di guardarlo”.
YouTube non ha risposto a una richiesta di commento.
Allen, l’ex data scientist di Facebook, ha descritto il ‘farming’ di engagement come un problema che le piattaforme devono risolvere. Anche perché, se non lo affronteranno, potrebbero essere penalizzate dai regolatori. Ha paragonato la diffusione di pagine non autentiche a pneumatici d’auto difettosi: “Se le tue gomme esplodono da dieci anni sulle autostrade, a un certo punto ci sarà un intervento del regolatore”.
Allen, però, pensa che, fino a quando i cacciatori di clic non andranno oltre la proliferazione di meme stantii e di bassa qualità, rimuovere le pagine non sia una soluzione. Facebook, a suo giudizio, dovrebbe invece abbandonare un algoritmo che incentiva le persone a postare materiale sensazionalistico.
“Se un cacciatore di clic cerca di ottenerli sulla tua piattaforma, ma non ne prende neanche uno, che razza di caccia al clic è?”.
LEGGI ANCHE: Donald Trump lancia una piattaforma di criptovalute. Ma per ora c’è solo il canale Telegram
Per altri contenuti iscriviti alla newsletter di Forbes.it CLICCANDO QUI .
Forbes.it è anche su WhatsApp: puoi iscriverti al canale CLICCANDO QUI .
