“Mi sono presentata da Hardees e sono rimasti un po’ sorpresi”, ha raccontato Claypool, che alla fine ha trovato lavoro altrove. “Il personale del ristorante non aveva idea di che cosa fare con me o di come aiutarmi. È sembrata una cosa più complicata del necessario”. (McDonald’s e Hardees non hanno risposto alla richiesta di fornire spiegazioni. Un portavoce di Wendy’s ha dichiarato a Forbes che il bot garantisce “una maggiore efficienza nelle assunzioni”, aggiungendo che “l’innovazione è nel dna” dell’azienda).
I colloqui con l’intelligenza artificiale
I chatbot del settore delle risorse umane, come quelli incontrati da Claypool, sono sempre più utilizzati in settori come la sanità, la vendita al dettaglio e la ristorazione, per scremare i candidati non qualificati e fissare i colloqui con quelli che potrebbero essere adatti alla posizione. McDonalds, Wendy’s, Cvs Health e Lowes usano Olivia, un chatbot sviluppato da Paradox, una startup di intelligenza artificiale da 1,5 miliardi di dollari con sede in Arizona. Altre società, come L’Oréal, si affidano a Mya, un chatbot basato sull’Ia sviluppato a San Francisco dall’omonima startup. (Paradox non ha risposto alla richiesta di fornire dettagli sull’esperienza di Claypool).
La maggior parte dei chatbot utilizzati nel campo delle assunzioni non sono così avanzati o sofisticati come quelli per la conversazione, come ChatGPT. Sono usati soprattutto per le selezioni per posti a elevato volume di candidati: cassieri, magazzinieri e addetti al servizio clienti. Sono rudimentali e pongono domande piuttosto semplici, come “sai usare un carrello elevatore?” o “sei disposto a lavorare nei fine settimana?”. Come ha scoperto Claypool, però, questi bot possono essere difettosi e non sempre c’è un essere umano a cui rivolgersi quando qualcosa va storto. Inoltre, le risposte chiare che molti bot richiedono potrebbero comportare il rifiuto automatico di alcuni candidati qualificati, che potrebbero non rispondere alle domande nel modo richiesto dal un modello linguistico.
Il pericolo di discriminazione
Secondo gli esperti, questo potrebbe costituire un problema per i disabili, le persone che non parlano bene l’inglese e i candidati più anziani. Aaron Konopasky, consulente legale senior presso la Us Equal Employment Opportunity Commission (Eeoc), teme che chatbot come Olivia e Mya non forniscano alle persone con disabilità o affette da patologie opzioni alternative per posizioni lavorative. “Se si parla con un essere umano, si può naturalmente discutere di soluzioni ragionevoli”, ha dichiarato a Forbes. “Se il chatbot è rigido, potrebbe non offrire alla persona la possibilità di chiedere esenzioni, per esempio”.
Un altro problema è quello delle possibili discriminazioni dovute ai pregiudizi alla base dei dati usati per addestrare i sistemi di Ia. “Se il chatbot esamina aspetti come il tempo impiegato a rispondere, o se vengono usate forme grammaticali corrette e frasi complesse, allora una persona inizia a preoccuparsi dei pregiudizi”, ha dichiarato Pauline Kim, professoressa di diritto del lavoro e dell’occupazione alla Washington University, la cui ricerca si concentra sull’utilizzo dell’Ia negli strumenti di assunzione. Ma questi pregiudizi possono essere difficili da identificare, quando le aziende non sono trasparenti sui motivi per cui un potenziale candidato è stato scartato.
Una svolta ovvia
Le autorità governative hanno introdotto di recente una norma per monitorare e regolamentare l’uso dei sistemi di automazione nell’assunzione. All’inizio di luglio, New York ha emanato una legge che impone ai datori di lavoro che utilizzano strumenti automatizzati, come gli scanner di curriculum e i chatbot per i colloqui, di verificare che gli strumenti non comportino discriminazioni di genere e razziali. Nel 2020, l’Illinois ha approvato una legge che impone agli imprenditori che adottano sistemi di Ia per analizzare i colloqui video di informare preventivamente i candidati e ottenere il loro consenso.
Tuttavia, per le aziende che cercano di ridurre i costi dei processi di selezione, i selezionatori che operano con l’intelligenza artificiale sembrano una scelta ovvia. I dipartimenti delle risorse umane sono spesso uno dei primi in cui si assiste a riduzioni del personale, ha dichiarato Matthew Scherer, consulente strategico senior per i diritti dei lavoratori e la tecnologia al Center for Democracy and Technology. “Le risorse umane sono sempre state un centro di costo per un’azienda, non hanno mai generato ricavi. I chatbot sono un primo passo logico per cercare di alleviare un po’ il carico di lavoro dei reclutatori”.
Un filtro di candidati
Questa è una delle motivazioni alla base di Sense Hq, che fornisce a società come Sears, Dell e Sony chatbot di Ia basati su messaggi di testo che aiutano i reclutatori a districarsi tra migliaia di candidati. La società sostiene che questi strumenti sono già stati utilizzati per circa dieci milioni di candidati e il co-fondatore Alex Rosen ha dichiarato a Forbes che questi numeri allargano il gruppo dei candidati idonei.
“Abbiamo costruito un chatbot per aiutare i selezionatori a dialogare con un numero di candidati più ampio di quello che potrebbero gestire da soli”, ha spiegato, aggiungendo però l’inevitabile avvertenza: “Non pensiamo che l’intelligenza artificiale debba assumere da sola la decisione finale. È lì che le cose si fanno pericolose. Non pensiamo che sia ancora giunto quel momento”.
I dubbi sui chatbot reclutatori
RecruitBot usa il machine learning per filtrare un archivio di 600 milioni di candidati ricavato da dati e marketplace del lavoro, per aiutare le società a reperire profili simili a quelli dei loro attuali dipendenti. “È un po’ come quando Netflix consiglia i film in base agli altri che ti piacciono”, ha raccontato a Forbes l’amministratore delegato e fondatore, Jeremy Schiff. Anche in questo caso, però, preoccupa il rischio di discriminazioni. Assumere più persone uguali tra loro presenta le sue insidie. Nel 2018, Amazon ha rimosso il suo sistema di tracciamento dei curriculum basato sul machine learning che discriminava le donne, perché i dati con cui era stato addestrato erano composti per lo più da curriculum di uomini.
Urmila Janardan, analista di Upturn, un’organizzazione senza scopo di lucro che studia l’impatto delle tecnologie sulle opportunità per le persone, ha osservato che alcune società si sono avvalse anche di test della personalità per selezionare i candidati, e che le domande per valutarli potrebbero non essere correlate alla posizione di lavoro. “Potreste anche venire esclusi in seguito a domande su riconoscenza e personalità”, ha raccontato.
Una selezione disumanizzante
Per Rick Gned, pittore e scrittore part-time, un quiz sulla personalità fece parte di un colloquio di lavoro tramite chatbot che sostenne per una posizione di scaffalista a ore nel supermercato australiano Woolworths. Il chatbot, realizzato dalla società di reclutamento Sapia Ai (in precedenza PredictiveHire), gli chiese di fornire risposte di 50-150 parole a cinque domande e analizzò poi le risposte, cercando tratti e competenze che corrispondessero alle preferenze dei reclutatori. Arrivando alla conclusione che Gned “affronta bene i cambiamenti” ed è “più concentrato sul quadro generale, il che lo porta a trascurare i dettagli”, il bot lo fece passare al turno successivo del colloquio.
Sebbene Sapia Ai non richieda ai candidati di rispondere alle domande entro un determinato limite di tempo, il sistema misura la struttura delle frasi, la leggibilità e la complessità delle parole usate, ha dichiarato tramite e-mail Barb Hyman, ad e cofondatrice di Sapia Ai.
Gned trovò l’intera faccenda disumanizzante e preoccupante, ha dichiarato a Forbes. “Appartengo a una fascia demografica per cui non sono toccato, ma sono preoccupato per le persone che appartengono a minoranze, che fanno parte in modo prevalente del mercato del lavoro a basso reddito”.
“Una spinta per il morale”
Per un candidato a una posizione lavorativa, che ha richiesto di rimanere anonimo per poter parlare liberamente, dialogare con un bot ha avuto almeno un aspetto positivo. Nel compilare centinaia di domande di lavoro, spesso non riceve risposta. Il bot, invece, gli ha almeno garantito che la sua candidatura è stata ricevuta. “È stata una spinta per il morale sotto molti punti di vista”, ha dichiarato. “Ma se dovessi fare così – se dovessi messaggiare con un chatbot per ogni posizione di lavoro a cui mi candido -, sarebbe una rottura di scatole”.
Questo articolo è stata aggiornato per chiarire le fonti dei dati di RecruitBot.
Per altri contenuti iscriviti alla newsletter di Forbes.it QUI.