Droni, riconoscimento facciale, IA in ascolto nei bagni: le frontiere della sorveglianza nelle scuole

Scuole di tutti gli Stati Uniti stanno adottando tecnologie di sorveglianza basate sull’intelligenza artificiale, tra cui droni, sistemi di riconoscimento facciale, addirittura dispositivi per ascoltare suoni e rumori dei bagni. Ma non ci sono molti dati a dimostrare che così si rendano sicuri i ragazzi.

In un edificio in stucco bianco nella California meridionale, videocamere confrontano i volti dei passanti con un database di riconoscimento facciale. Un’intelligenza artificiale di analisi comportamentale esamina i filmati alla ricerca di segnali di comportamento violento. Dietro la porta di un bagno, un dispositivo a forma di rilevatore di fumo cattura l’audio, ascoltando eventuali suoni che esprimano disagio. All’esterno ci sono droni pronti a essere dispiegati per fornire informazioni dall’alto, e i lettori di targhe del colosso della sorveglianza da 8,5 miliardi di dollari Flock Safety garantiscono che le auto che entrano ed escono dal parcheggio non siano guidate da criminali.

Non è una struttura governativa ad alta sicurezza. È la Beverly Hills High School.

Il sovrintendente del distretto, Alex Cherniss, afferma che questo impressionante arsenale di strumenti di sorveglianza è una necessità e che garantisce la sicurezza dei suoi studenti. “Siamo nel cuore di un contesto urbano come Los Angeles, in una delle città più riconoscibili del pianeta. Quindi siamo sempre un bersaglio, e questo significa che i nostri ragazzi sono un bersaglio e il nostro personale è un bersaglio”, ha dichiarato. Nell’anno fiscale 2024-2025, il distretto ha speso 4,8 milioni di dollari per la sicurezza, incluso il personale. Il sistema di sorveglianza individua più minacce al giorno, ha riferito il distretto.

L’emergenza sparatorie nelle scuole

L’apparato di Beverly Hills può sembrare estremo, ma non è un’eccezione. In tutti gli Stati Uniti, le scuole stanno implementando sistemi di sorveglianza simili nella speranza di rimanere al riparo dalla terrificante e incessante ondata di sparatorie di massa. Quest’anno si sono registrate 49 morti per arma da fuoco in proprietà scolastiche. Nel 2024 sono state 59 e nel 2023 45, secondo Everytown for Gun Safety. Tra il 2000 e il 2022, 131 persone sono state uccise e 197 ferite nelle scuole statunitensi, la maggior parte delle quali bambini. Alla luce di questi dati, destinare una parte del budget a strumenti di sicurezza e sorveglianza all’avanguardia basati sull’IA è una decisione relativamente facile.

“Questa comunità vuole… tutto ciò che possiamo fare per rendere le nostre scuole più sicure”, ha detto Cherniss. “Se questo significa avere sicurezza armata, droni, IA e lettori di targhe, così sia”.

I dati

Gli scettici, tuttavia, sostengono ci siano poche prove che le tecnologie di IA possano ridurre in modo significativo questi numeri, e che in compenso compromettano il rapporto di fiducia con gli studenti. Un rapporto dell’American Civil Liberties Union del 2023 ha rilevato che otto delle dieci più grandi sparatorie scolastiche negli Stati Uniti dai tempi di Columbine si sono verificate in campus dotati di sistemi di sorveglianza. Chad Marlow, consulente politico senior dell’Aclu e autore del rapporto, ha affermato che, anche con l’avvento degli strumenti basati sull’IA, manca una ricerca indipendente che verifichi se siano davvero più efficaci nel prevenire tragedie. “È molto singolare affermare che questo terrà i vostri figli al sicuro”, ha detto.

Il rapporto ha inoltre rilevato che la sorveglianza favorisce un clima di sfiducia: il 32% degli studenti tra i 14 e i 18 anni intervistati ha dichiarato di sentirsi come se fosse sempre osservato. Nei focus group condotti dall’Aclu, gli studenti hanno affermato di sentirsi meno a loro agio nel segnalare a educatori problemi di salute mentale e abusi fisici. Marlow sostiene che si tratti di uno scambio pessimo. “Poiché i ragazzi non si fidano delle persone che percepiscono come spie, questo spezza la fiducia e rende, in realtà, le cose meno sicure”, ha detto.

Il distretto di Beverly Hills non la vede allo stesso modo. “Non esiste una quantità di denaro che possiamo investire nella sicurezza e nella protezione nel Beverly Hills Unified School District con cui i nostri genitori e la nostra comunità non sarebbero d’accordo”, ha detto Cherniss.

Le testimonianze

Nicole Gorbacheva, che si è diplomata alla Beverly Hills High all’inizio di quest’anno, ha detto di sostenere l’aumento delle misure di sicurezza in un distretto che in passato ha ricevuto minacce di bomba, ha subito intrusioni e, più di recente, minacce antisemite. All’inizio di quest’anno, qualcuno ha disegnato una svastica sul marciapiede davanti a una delle scuole elementari del distretto. “Negli anni ho visto la Bhhs passare da un campus più rilassato e aperto a un ambiente chiuso e molto più protetto”, ha detto. L’introduzione di tecnologie di sorveglianza basate sull’IA “non mi sembra distopica; mi sembra preventiva. Crea la sensazione che qualcuno stia sempre vegliando sugli studenti”, ha aggiunto Gorbacheva.

Anche altre scuole dicono più o meno la stessa cosa. Christopher Heilig è sovrintendente della Rancocas Valley Regional High School nel New Jersey, una scuola con fino a 50 telecamere che usano il software di rilevamento delle armi da fuoco di ZeroEyes. Durante le esercitazioni per casi di persone armate nella sua scuola, il tempo necessario per fermare un aggressore armato si è dimezzato usando ZeroEyes, ha affermato. “Non si possono discutere i risultati, perché si stanno salvando vite”.

L’IA che rileva le armi

Lo scorso anno, ZeroEyes ha dichiarato di aver ricevuto la Designazione Safety Act del dipartimento della Sicurezza interna, un riconoscimento che il valutatore del Dhs ha definito “una testimonianza dell’affidabilità e dell’efficacia della piattaforma, misurate attraverso test rigorosi, valutazioni ed eventi reali”. ZeroEyes afferma che la sua tecnologia ha rilevato oltre 1.000 armi dal 2023. Una di queste è stata individuata all’inizio di quest’anno in una scuola del Texas, dove un minorenne stava portando un fucile e cercava di entrare. La polizia lo ha fermato prima che potesse sparare a qualcuno.

L’amministratore delegato, cofondatore ed ex Navy Seal Mike Lahiff ha detto che altri incidenti non sono stati così gravi. “Abbiamo visto persone con armi nelle scuole, ma non credo che fossero lì per sparare agli studenti”, ha dichiarato a Forbes. Ha ammesso che l’IA di ZeroEyes spesso segnala oggetti innocui come armi, ma che il suo team di veterani, ex soccorritori ed ex agenti di polizia è lì per verificare gli avvisi e, se necessario, allertare le forze dell’ordine.

Non è un sistema perfetto. ZeroEyes è stata responsabile di falsi allarmi, incluso un errato rilevamento di un’arma in una scuola del Texas nel 2023. La scuola è stata messa in lockdown, terrorizzando gli studenti, secondo i media locali. “Ci si assume la responsabilità del proprio errore e questo aiuta a migliorare in futuro”, ha detto Lahiff. L’azienda non è a conoscenza di sparatorie scolastiche avvenute in scuole in cui la sua tecnologia fosse in uso.

L’accuratezza è un problema comune per questo tipo di tecnologia. Evolv, la soluzione di rilevamento delle armi utilizzata da oltre 800 scuole negli Stati Uniti, inclusa la Beverly Hills High, ha segnalato oggetti personali innocui come laptop e bottiglie d’acqua come armi. Nel 2024 è stata rimproverata dalla Federal Trade Commission (l’agenzia governativi americana che si occupa di antitrust e tutela dei consumatori) per aver ingannato le scuole sostenendo che la sua IA potesse rilevare tutti i tipi di armi.

L’ente regolatore ha affermato che in diversi casi non ci è riuscita, incluso un incidente del 2022 in cui non ha segnalato un coltello di 18 centimetri usato per accoltellare uno studente. Il portavoce di Evolv, Alex Ozerkis, ha dichiarato che il richiamo della Ftc era incentrato su “affermazioni di marketing storiche”, che Evolv ha ora corretto, ma non ha contestato l’”efficacia fondamentale” del prodotto.

Ozerkis ha affermato che, in media, la tecnologia di Evolv aiuta i clienti a individuare e contrassegnare 500 armi da fuoco al giorno e a controllare oltre 850mila visitatori scolastici ogni giorno. Evolv ha inoltre la stessa certificazione Dhs di ZeroEyes e in passato ha citato una ricerca di terze parti del National Center for Spectator Sports Safety and Security, che ha rilevato un’elevata efficacia nell’individuare armi durante un evento sportivo reale.

All’inizio di quest’anno, un altro concorrente nel rilevamento delle armi, Omnilert, ha segnalato come possibile minaccia armata uno studente di 16 anni nella contea di Baltimore, nel Maryland, che stava infilando la mano in tasca per prendere un sacchetto vuoto di Doritos. Secondo i media locali, l’adolescente, che frequenta la Kenwood High School di Essex, ha dichiarato di essere stato tenuto sotto la minaccia delle armi dalla polizia e di non sentirsi più al sicuro a scuola. Omnilert ha indirizzato Forbes a un rapporto sull’incidente dell’Ufficio dell’ispettore generale per l’istruzione del Maryland, che ha rilevato come un problema di comunicazione tra il personale di sicurezza e il preside avesse portato al coinvolgimento della polizia. Il portavoce di Omnilert, Blake Mitchell, ha affermato che l’azienda non ha gestito altri eventi simili.

L’IA per l’analisi comportamentale

Anche i prodotti di analisi comportamentale basati sull’IA, che affermano di poter rilevare segnali di aggressività o altre azioni preoccupanti come persone che scavalcano recinzioni, sono controversi. I prodotti che dichiarano di poter determinare le emozioni di una persona a partire da immagini e audio sono stati derisi come inefficaci o distorti; alcune ricerche hanno indicato che tali sistemi attribuiscono più spesso stati emotivi negativi alle persone nere.

Ciò non ha impedito alle istituzioni educative di acquistarli. Brett Fuchs, direttore della sicurezza dell’Università del Tennessee a Chattanooga, ha implementato VoltAI sulle telecamere dell’ateneo. La tecnologia, che VoltAI fa pagare 365 dollari per flusso video all’anno, afferma di poter rilevare armi, atti di bullismo, persone cadute a terra e stazionamento sospetto. Per testarla, Fuchs ha fatto inscenare ad alcuni colleghi una finta colluttazione davanti a una telecamera. L’IA l’ha segnalata con successo, convincendolo ad adottare lo strumento all’inizio di quest’anno.

VoltAI ha anche aiutato a individuare una persona senza fissa dimora caduta a terra all’interno della proprietà universitaria, che è stata poi accompagnata in un rifugio, ha detto Fuchs. Quando sono arrivate telefonate fasulle che segnalavano una sparatoria, VoltAI ha aiutato a convincere gli agenti che non stava accadendo nulla di pericoloso. “Sappiamo che avremmo ricevuto avvisi molto prima ancora che arrivasse quella telefonata”, ha detto. Tuttavia, anche questo sistema non è mai stato messo alla prova in incidenti gravi, come lui stesso osserva.

Man mano che sempre più telecamere basate sull’IA compaiono nelle aule e nei campus, coloro che sono più sottoposti alla sorveglianza — studenti, genitori e insegnanti — non sono sempre inclusi nei processi decisionali. Katherine Warren, presidente della Beverly Hills Education Association, insegnante nella scuola media locale e madre di un bambino nel distretto, ha affermato che il sindacato degli insegnanti ha presentato un reclamo questo autunno per l’installazione di telecamere da parte del distretto in spazi come la biblioteca e il centro fitness. Sebbene le telecamere non siano consentite nelle aule, sono permesse in altre parti del campus. “Abbiamo espresso preoccupazioni sul fatto che queste aree siano spazi didattici e dovrebbero essere trattate con le stesse considerazioni di privacy e contrattuali delle aule tradizionali”, ha detto Warren.

Il portavoce di Beverly Hills, Colby Gilardian, ha affermato che il distretto ha accettato di informare il sindacato sulla posizione delle telecamere e di non installarle in luoghi in cui vi sia “una ragionevole aspettativa di privacy”. Definizione che non include la biblioteca e il centro fitness.

La questione dell’informazione

Warren ha anche detto di non essere stata informata della recente adozione del riconoscimento facciale da parte della scuola, fornito dal vendor di IA con sede in Connecticut Vaidio, durante la cerimonia di diploma del 2025, né se la sua immagine fosse stata inserita in un database biometrico. Allo stesso modo, l’ex studentessa Gorbacheva non era a conoscenza del fatto che il riconoscimento facciale fosse stato testato durante la cerimonia. Gilardian ha affermato che il distretto prevede di avviare “conversazioni più approfondite” sulla tecnologia se e quando ci sarà una diffusione più ampia. Al momento il sistema è limitato a 15 telecamere in tutto il distretto, che comprende il liceo, una scuola media e due scuole elementari. Gilardian ha detto che viene utilizzata solo una “piccola lista interna dimostrativa”.

La scuola non è legalmente obbligata a informare genitori, studenti o insegnanti dell’inserimento in un sistema di riconoscimento facciale. Il California Consumer Privacy Act richiede alle aziende di informare gli individui quando vengono raccolti dati biometrici, ma le scuole pubbliche sono esentate. Sean O’Connor, direttore della sicurezza del Beverly Hills School District, ha affermato che, sebbene le telecamere catturino costantemente dati valutando persone e linguaggio del corpo, “siamo fortemente orientati alla tutela della privacy. Non condividiamo queste informazioni e, anche quando siamo legalmente obbligati a condividere determinati video [in risposta a un mandato di comparizione o a un mandato di perquisizione della polizia], oscuriamo i volti di chiunque non sia coinvolto nell’incidente”, ha detto.

Sia VoltAI, sia ZeroEyes affermano che le loro tecnologie non rilevano identità, ma solo oggetti e comportamenti, e che quindi non rappresentano una minaccia per la privacy.

Ascoltati anche in bagno

Anche laddove esistono tutele della privacy, c’è il potenziale che queste tecnologie vengano trasformate in sistemi di spionaggio più sinistri. Motorola, l’azienda che produce i dispositivi Halo per l’ascolto nei bagni, ha dichiarato di non archiviare le informazioni registrate nei bagni. I sistemi segnalano solo, in tempo reale, rumori preoccupanti, come spari o qualcuno che grida “aiuto”, facendo scattare allarmi. Tuttavia, all’inizio di quest’anno, un adolescente di Portland ha hackerato gli Halo della sua scuola, trasformandoli in dispositivi di ascolto permanenti in grado di registrare tutto ciò che accadeva nel bagno. Il ragazzo ha detto che l’hackeraggio era possibile perché è riuscito a indovinare la password dell’amministratore del dispositivo e usarlo senza alcuna limitazione. Motorola ha risolto la falla di sicurezza con un aggiornamento.

Un portavoce di Motorola ha affermato che l’azienda sta “rafforzando e testando costantemente le proprie soluzioni per migliorare la sicurezza”. Ha inoltre citato altri recenti casi di successo, inclusa un’emergenza medica in un bagno scolastico, in cui un insegnante ha ricevuto cure salvavita dopo che Halo ha rilevato le parole chiave “aiuto” ed “emergenza”, avvisando il preside.

A che cosa serve l’IA nelle scuole

Le scuole affermano che esistono altri benefici delle tecnologie di monitoraggio, oltre alla sicurezza. Il riconoscimento facciale può essere utilizzato quando un genitore arriva a prendere un figlio e non riesce a trovarlo, ha detto O’Connor di Beverly Hills. Le telecamere possono indicare al personale se il bambino è nella scuola, quali telecamere ha attraversato e cosa indossava, così da poterlo trovare rapidamente. I dispositivi Halo per i bagni, 25 dei quali sono in uso in tutto il distretto di Beverly Hills, fungono anche da rilevatori di fumo e di svapo.

L’azienda di rilevamento targhe Flock Safety e il partner Raptor Tech stanno promuovendo un servizio chiamato DismissalSafe per monitorare arrivi e partenze all’orario di uscita, inviando avvisi quando il mezzo che riporta a casa uno studente arriva nel parcheggio e confermando che lo studente è stato prelevato in sicurezza.

Non tutte le scuole accettano il messaggio commerciale. Alla fine del 2023, il responsabile di Amazon per le forze dell’ordine e la sicurezza scolastica stava promuovendo ZeroEyes a polizia e scuole nello stato di Washington, secondo email ottenute tramite richieste di accesso agli atti pubblici. Nelle sue presentazioni, ZeroEyes indirizzava i potenziali clienti a un progetto pilota condotto con successo con le Highline Schools di Burien.

Ma all’inizio di quest’anno, la scuola ha annullato il suo contratto annuale da 33mila dollari, con ancora due anni rimanenti, affermando che non era finanziariamente sostenibile. Tove Tupper, responsabile della comunicazione del distretto scolastico, ha detto a Forbes che avevano trovato un uso migliore per quei soldi: defibrillatori e suv Ford per il team di sicurezza.