Le richieste di cambiamenti politici e gli avvertimenti riguardo a una possibile presa di controllo dei sistemi essenziali, tale da portare all’estinzione, hanno portato i timori dell’opinione pubblica riguardo a un “giorno del giudizio” causato dall’intelligenza artificiale ai massimi livelli di sempre. Ma gli esperti sostengono che le comunità emarginate stiano già subendo i pregiudizi dell’IA, che possono negare l’accesso all’assistenza sanitaria, influenzare l’assegnazione degli alloggi o automatizzare le sentenze penali.
Fatti chiave:
- Joy Buolamwini, fondatrice dell’Algorithmic Justice League, sostiene che incentrare i rischi dell’IA sulle “minacce esistenziali” sia intrinsecamente elitario e distolga l’attenzione dai danni immediati già inflitti alle comunità più povere.
- La ricerca di Buolamwini si concentra su ciò che lei definisce lo “sguardo codificato”, un concetto ormai dimostrato secondo cui i pregiudizi e le preferenze dei creatori di un sistema vengono codificati direttamente nel software e, poiché i set di dati utilizzati per addestrare l’IA sono stati storicamente sbilanciati a favore degli uomini bianchi, lo sono anche i modelli stessi.
- Uno studio intitolato Gender Shades ha rilevato che i principali strumenti di riconoscimento facciale presentavano tassi di errore inferiori all’1% per gli uomini dalla pelle chiara, ma fino al 35–47% per le donne dalla pelle scura. Questi errori tecnici hanno portato ad arresti ingiustificati di uomini neri in tutto il Paese.
- È emerso che gli algoritmi utilizzati dalle società di gestione immobiliare per valutare i potenziali inquilini respingono candidati qualificati a basso reddito senza fornire spiegazioni né possibilità di ricorso.
- Una società di selezione degli inquilini, SafeRent Solutions, è stata costretta a risolvere una causa legale con un risarcimento di 2,3 milioni di dollari dopo che oltre 400 ricorrenti hanno sostenuto che il suo algoritmo assegnasse in modo sproporzionato punteggi più bassi ai candidati e agli inquilini afroamericani e ispanici che utilizzavano buoni abitativi governativi.
- Uno studio di riferimento pubblicato su Science ha rivelato che un algoritmo utilizzato nel settore sanitario commerciale ha dato la priorità ai pazienti bianchi nell’assegnazione di cure mediche aggiuntive rispetto ai pazienti neri che presentavano lo stesso grado di malattia, poiché utilizzava la spesa sanitaria passata come indicatore delle esigenze sanitarie. Poiché storicamente ai pazienti neri vengono destinati meno fondi a causa delle disuguaglianze sistemiche, il sistema ha concluso che i pazienti neri fossero “più sani”.
- Sono stati riscontrati pregiudizi algoritmici anche nei processi automatizzati di selezione e assunzione del personale, nella polizia predittiva e nelle valutazioni dei rischi relative al benessere dei minori.
Dichiarazione cruciale
“L’intelligenza artificiale è brava a descrivere il mondo così com’è oggi, con tutti i suoi pregiudizi, ma non sa come dovrebbe essere il mondo”, ha affermato Joanne Chen, partner della società di investimenti nel settore dell’IA Foundation Capital, in occasione del SXSW del 2018.
Fatto sorprendente
Amazon ha abbandonato un motore interno di reclutamento basato sull’intelligenza artificiale dopo aver constatato che questo sistematicamente declassava le candidature che includevano la parola “femminile” e quelle provenienti da atenei esclusivamente femminili. L’intelligenza artificiale aveva appreso autonomamente che i candidati maschi fossero preferiti, poiché era stata addestrata su 10 anni di dati storici relativi alle assunzioni provenienti da un settore tecnologico dominato dagli uomini.
Gli allarmi lanciati dai ricercatori
Gli amministratori delegati delle principali aziende del settore dell’intelligenza artificiale chiedono un rallentamento nello sviluppo dei modelli all’avanguardia per consentire alle autorità di regolamentazione in materia di sicurezza e legislazione di mettersi al passo, dopo una serie di allarmi preoccupanti lanciati da esperti del settore.
