Bias nella selezione del personale: il controllo che resta alla direzione HR
Un sistema che ordina i curricula per pertinenza sembra uno strumento neutro, e proprio per questo il bias nella selezione del personale è difficile da vedere.
La classifica arriva pulita, con un punteggio accanto a ogni nome, e nessuno in ufficio ha l'impressione di aver scelto qualcosa.
La scelta, invece, c'è stata.
È avvenuta prima, quando qualcuno ha deciso con quali dati addestrare il modello e che cosa considerare un buon candidato.
Il punteggio porta con sé il passato
Ruben Razzante, sulle pagine di Personale e Lavoro di marzo 2026 e in ISPER HR Review Area Cultura delle Risorse Umane, n. 278 del 2 aprile 2026, lo ha riassunto in una formula che ogni direttore del personale dovrebbe tenere a mente: ogni sistema intelligente riflette le scelte, i pregiudizi e i limiti di chi lo progetta.
Nella selezione il meccanismo è concreto.
Un modello che impara dalle assunzioni degli ultimi dieci anni impara anche chi, in quegli anni, veniva assunto e chi no.
Se in un ruolo tecnico le donne erano poche, o se i candidati sopra una certa età passavano raramente il primo colloquio, il sistema tende a riprodurre quello schema e lo restituisce sotto forma di probabilità.
Il problema non si risolve togliendo dal modulo il campo del sesso o della data di nascita.
Esistono le variabili che fanno da sostituto: un'interruzione di carriera di due anni, il nome di una scuola, il comune di residenza, il numero di esperienze all'estero.
Nessuna di queste è discriminatoria in sé.
Insieme, possono ricostruire con buona precisione proprio le caratteristiche che si volevano escludere.
C'è poi un effetto meno evidente.
Chi riceve una classifica tende a fidarsi dei primi nomi e a scorrere in fretta gli altri, anche quando la differenza di punteggio è minima.
Che cosa chiede la norma a chi usa il sistema
L'AI Act, il Regolamento (UE) 2024/1689, colloca tra i sistemi ad alto rischio, all'allegato III, punto 4, quelli destinati alla selezione delle persone: annunci mirati, analisi e filtro delle candidature, valutazione dei candidati.
Per l'azienda che li adotta, e che il Regolamento chiama deployer, l'art. 26 fissa obblighi precisi.
Il sistema va usato secondo le istruzioni del fornitore
La sorveglianza umana va affidata a persone con competenza, formazione e autorità adeguate.
Se è l'azienda a controllare i dati di input, deve assicurarsi che siano pertinenti e sufficientemente rappresentativi rispetto allo scopo.
Il funzionamento va monitorato, i log generati automaticamente vanno conservati per almeno sei mesi e, prima di mettere il sistema in servizio sul luogo di lavoro, il datore di lavoro deve informare i rappresentanti dei lavoratori e i lavoratori interessati.
In Italia la legge 23 settembre 2025, n. 132, all'art. 11, comma 3, stabilisce che l'intelligenza artificiale nell'organizzazione e nella gestione del rapporto di lavoro garantisce i diritti inviolabili del lavoratore senza discriminazioni in funzione di sesso, età, origini etniche, credo religioso, orientamento sessuale, opinioni politiche e condizioni personali, sociali ed economiche.
Resta sullo sfondo l'art. 22 del GDPR, che riconosce il diritto a non essere sottoposti a una decisione basata unicamente su un trattamento automatizzato quando incide in modo significativo sulla persona.
Letti insieme, questi testi dicono una cosa semplice.
La responsabilità del risultato non si trasferisce al fornitore con il contratto di licenza.
Le domande da fare prima di firmare
Il momento in cui la direzione del personale ha più potere è la fase di acquisto.
Dopo, il sistema è già dentro i processi e cambiarlo costa.
Conviene arrivare al tavolo con domande scritte e pretendere risposte scritte.
Su quali dati è stato addestrato il modello, e di quale mercato del lavoro, di quali settori, di quali anni?
Quali verifiche sui bias ha svolto il fornitore, su quali gruppi e con quali risultati?
Il punteggio si può spiegare al singolo candidato che chiede perché è stato escluso?
Le istruzioni per l'uso indicano i limiti del sistema, cioè i profili o i contesti in cui le prestazioni peggiorano?
Una risposta vaga su questi punti è già un'informazione.
Un fornitore che non sa dire come si comporta il suo modello con i candidati sopra i cinquant'anni sta chiedendo all'azienda di scoprirlo da sola, sui candidati veri.
Bias nella selezione del personale: misurare in casa
Le verifiche del fornitore, anche quando sono serie, sono fatte su dati che non sono quelli dell'azienda.
Per questo serve un controllo interno, periodico e affidato a qualcuno con nome e cognome.
Il metodo non richiede un data scientist in organico.
Basta confrontare, per ogni selezione chiusa, quanti candidati di ciascun gruppo sono entrati nella rosa rispetto a quanti si erano presentati.
Se la percentuale di donne o di over 50 che supera il primo filtro è molto più bassa di quella di chi si è candidato, il dato va spiegato.
Accanto ai numeri servono i casi.
Una volta al mese un selezionatore può riprendere un campione di candidature scartate dal sistema e rileggerle senza guardare il punteggio.
Se tra queste emergono profili che avrebbe portato a colloquio, la soglia di esclusione è da rivedere.
Lo stesso vale per le decisioni ribaltate dalla persona che sorveglia il sistema: quando capita spesso sullo stesso tipo di profilo, il modello sta sbagliando in modo sistematico, e i log conservati permettono di dimostrarlo al fornitore.
Tutto questo presuppone persone capaci di leggere quello che il sistema produce.
L'art. 4 dell'AI Act, nella versione modificata dal Regolamento (UE) 2026/1744, chiede a fornitori e deployer di adottare misure per sviluppare l'alfabetizzazione in materia di IA del personale, tenendo conto delle conoscenze, dell'esperienza e del contesto d'uso.
Per chi fa selezione, significa sapere che cosa misura un punteggio e che cosa non può misurare.
Cultura delle risorse umane e competenze sull'AI
Personale e Lavoro racconta da decenni la direzione del personale come una funzione che tiene insieme diritto, organizzazione e rispetto della persona.
È lo stesso terreno su cui Razzante colloca il tema dei bias, quando ricorda che la persona non può essere ridotta a una variabile statistica.
L'Associazione Italiana Professionisti dell'Intelligenza Artificiale (AIPIA) riunisce sviluppatori, data scientist, ricercatori e consulenti che quei sistemi li progettano e li integrano nelle aziende.
Le due comunità si incontrano esattamente nel punto in cui un requisito etico deve diventare una specifica tecnica, un indicatore da controllare, una clausola nel contratto con il fornitore.
Per questo AIPIA ha scelto di mettere nero su bianco un codice etico per i professionisti dell'AI che tratta l'equità algoritmica insieme a privacy, trasparenza e accountability.
Per una direzione del personale è un riferimento utile anche in fase di acquisto: aiuta a capire che cosa si può chiedere a chi sviluppa o configura un sistema di selezione, e con quale linguaggio.
Un percorso formativo che metta nella stessa stanza selezionatori e professionisti dell'AI, a lavorare su una selezione reale e sui suoi dati, insegna più di molte ore di teoria sugli algoritmi.
Una prova sull'ultima selezione
Per capire a che punto si è, basta un pomeriggio.
Si prende l'ultima selezione chiusa con il supporto di un sistema automatico e si ricostruiscono tre informazioni: chi ha deciso la soglia di esclusione, quanti candidati scartati sono stati riletti da una persona, e se i rappresentanti dei lavoratori sono stati informati prima dell'avvio.
Se una di queste risposte manca, il bias forse non c'è.
Ma nessuno in azienda è in grado di dimostrarlo.
Articolo scritto per "ISPER HR Review" - n° 295 Novembre 2026 - dal Rafael Patron - Presidente del Comitato Tecnico-Scientifico AIPIA
Immagine di apertura: elaborazione su Immagine generata con ChatGPT
Frecce: elaborazione su foto di Veronica Bosley da Pixabay
Chi scrive
Rafael Patron
Presidente del Comitato Tecnico-Scientifico AIPIA - Associazione Italiana Professionisti dell’Intelligenza Artificiale
Ha scritto 1 articolo
