AI e discriminazione nella selezione: cosa guarda un giudice

Immagina la scena. Un candidato scartato dalla tua ultima selezione ti scrive: sostiene di essere stato discriminato, dice che “ha deciso un algoritmo” e che vuole vederci chiaro. Magari parte una segnalazione, magari una causa. La domanda che conta, a quel punto, non è se il tuo software fosse a norma. È un’altra: cosa sei in grado di dimostrare?

La risposta breve, e questo articolo esiste per spiegarla: nessun giudice esaminerà il tuo algoritmo riga per riga. Guarderà i documenti, i registri e le decisioni delle persone. Chi li ha, si difende. Chi non li ha, perde anche quando ha ragione.

Il mito del “tanto nessuno può controllare”

Tra chi usa l’AI nella selezione gira una convinzione comoda: “questi sistemi sono scatole nere, nessun tribunale potrà mai capirci qualcosa, quindi il rischio è teorico”. È vero l’esatto contrario, e per un motivo semplice: proprio perché nessuno può guardare dentro il modello, i giudici guardano tutto quello che ci sta intorno.

È già successo, in Italia. Nel caso più citato di discriminazione algoritmica (il ranking dei rider di una piattaforma di food delivery, Tribunale di Bologna, fine 2020), il giudice non ha analizzato una riga di codice. Ha guardato come il sistema trattava le persone nei fatti e cosa l’azienda aveva scritto nelle proprie regole, e questo è bastato per la condanna. Il principio vale identico per la selezione: contano gli effetti e le carte, non i segreti del software.

Cosa guarda davvero chi giudica

Quando arriva una contestazione su una selezione, le domande sono sempre le stesse quattro:

1. Con che criteri avete valutato? Se i criteri esistono scritti da prima (requisiti del ruolo, soglie, pesi), sei in una posizione. Se li ricostruisci a memoria dopo la contestazione, sei in un’altra.
2. Chi ha deciso? Una persona con nome e cognome che ha visto la candidatura e ha scelto, o un automatismo che ha scartato da solo? Nel secondo caso il problema non è più solo la discriminazione: è il GDPR, che le decisioni interamente automatizzate con effetti significativi le vieta da anni.
3. Il processo è stato uguale per tutti? Stessi criteri, stesse domande, stessi test per tutti i candidati di quel ruolo. L’AI, usata bene, qui ti aiuta: applica lo stesso metro a tutti, e lo si può dimostrare.
4. Dove sono le tracce? Punteggi, motivazioni, date, esiti comunicati. Se esistono, la discussione si fa sui fatti. Se non esistono, vale la parola del candidato contro la tua.

E c’è un dettaglio che cambia il peso di tutto: su alcuni fronti l’onere della prova è già invertito. Con il decreto sulla trasparenza retributiva, per esempio, in certe controversie non è il lavoratore a dover dimostrare la discriminazione: è l’azienda a dover dimostrare di non averla commessa. Dimostrare un negativo, senza documenti, è impossibile per definizione.

Il paradosso: l’AI ti rende più difendibile, se la usi da adulto

Sembra controintuitivo, ma un processo di selezione ben fatto con l’AI dentro è più difendibile di uno tradizionale. Pensa a come funziona una selezione “a sensazione”: CV letti di fretta, colloqui diversi per ogni candidato, decisioni prese a pelle e mai messe per iscritto. Prova a difenderla in giudizio.

Ora prendi un funnel costruito bene: criteri oggettivi approvati per iscritto prima di partire, ogni candidato passa gli stessi step, l’AI produce un punteggio motivato, una persona rivede e decide, ogni passaggio resta registrato con la sua data. Non è solo un processo più giusto: è un fascicolo di difesa che si scrive da solo, candidatura dopo candidatura.

La differenza tra i due scenari non è il software. È la disciplina, ovvero la parte del lavoro che non si compra (la chiamo disciplina e non compliance apposta: la seconda si delega, la prima no).

Cosa deve esserci nel tuo “fascicolo”, concretamente

Se domani ricevessi una contestazione su una selezione chiusa tre mesi fa, dovresti poter tirare fuori:

• I criteri del ruolo scritti prima dell’annuncio: requisiti, soglie, cosa pesava quanto.
• L’annuncio pubblicato (testo e canali), senza requisiti discriminatori espliciti o mascherati.
• Gli step uguali per tutti: chi ha fatto il test, chi il colloquio, in che ordine.
• Punteggi e motivazioni per ogni candidato arrivato in fondo, e il motivo sintetico degli scarti.
• Chi ha preso la decisione finale e quando: la firma umana sul processo.
• Le comunicazioni inviate ai candidati, esiti compresi.
• L’informativa che dichiara l’uso dell’AI nel processo (in Italia è già un obbligo, non una cortesia).

Dal dicembre 2027 l’AI Act renderà obbligatoria una parte di questa lista per legge (log conservati almeno sei mesi, sorveglianza umana designata, diritto del candidato alla spiegazione: trovi il quadro completo nella guida all’AI Act per chi seleziona). Ma il punto di questo articolo è un altro: questa lista conviene a prescindere dalla legge, perché è la tua assicurazione. La norma, semmai, arriva seconda.

Le tre situazioni in cui sei scoperto

Vale la pena dirlo al contrario. Oggi sei indifendibile se:

• Lo scarto è automatico e nessuno lo sa spiegare. “Il sistema gli ha dato 2 su 10” non è una spiegazione, è un’ammissione.
• I criteri cambiano in corsa. Se per un candidato hai richiesto cinque anni di esperienza e per un altro tre, senza una ragione scritta, qualsiasi differenza di trattamento diventa sospetta.
• Non c’è niente di scritto. Nessun criterio, nessun punteggio, nessuna motivazione: a quel punto la ricostruzione la fa la controparte, e la fa nel modo peggiore per te.

In pratica

Non serve un ufficio legale: serve un processo. Criteri scritti prima, stessi step per tutti, punteggio motivato, decisione umana firmata, tutto conservato. È esattamente il modo in cui costruiamo i sistemi di selezione per i nostri clienti: l’AI fa la fatica, le persone decidono, e ogni passaggio lascia traccia. Se vuoi vedere come funzionerebbe sulla tua prossima ricerca, guarda il servizio o prenota una chiamata.

---

Riferimenti: GDPR art. 22 (decisioni automatizzate); D.lgs. 96/2026 (trasparenza retributiva e onere della prova); L. 132/2025 (informativa sull’uso dell’AI); Reg. (UE) 2024/1689, artt. 26 e 86 (obblighi dal 2 dicembre 2027 per effetto del Reg. UE 2026/1744); Trib. Bologna, ord. 31 dicembre 2020 (discriminazione algoritmica). Articolo informativo: non sostituisce una consulenza legale sul tuo caso specifico.