Questa pervasività rende evidente come sia necessario superare l’idea, tanto diffusa quanto fuorviante, secondo cui la tecnologia sarebbe neutra per definizione.

In realtà, ogni sistema intelligente riflette le scelte, i pregiudizi e i limiti di chi lo progetta, e le caratteristiche dei dati su cui viene addestrato.

L’apparente oggettività matematica rischia così di celare un complesso intreccio di opzioni valoriali e di condizioni storiche sedimentate nel tempo.

Gli algoritmi operano su base statistica, individuando correlazioni tra le variabili presenti nei dati storici e producendo previsioni su eventi o comportamenti futuri.

Se questi dati incorporano dei pregiudizi strutturali - legati al genere, all’etnia, all’età, all’orientamento sessuale, alla disabilità o alla condizione socio-economica - il sistema tenderà inevitabilmente a riprodurli e spesso ad amplificarli.

Questo fenomeno è noto come “bias algoritmico” e costituisce una forma di discriminazione indiretta, difficile da individuare ma potenzialmente molto incisiva.

Nei processi di reclutamento automatizzati, ad esempio, alcuni algoritmi hanno mostrato una preferenza sistematica verso candidati di sesso maschile per posizioni tecniche o dirigenziali, semplicemente perché i dati storici aziendali riflettevano una predominanza maschile in quei ruoli.

L’algoritmo, addestrato a individuare profili simili a quelli che in passato avevano avuto successo, finisce così per replicare uno squilibrio preesistente.

In ambito creditizio, sistemi di scoring possono penalizzare individui provenienti da determinati quartieri urbani o con carriere lavorative discontinue, non per una reale inaffidabilità finanziaria, ma perché i dati storici associano tali caratteristiche a un rischio maggiore.

In tal modo, il modello statistico consolida una forma di esclusione sociale già radicata, trasformando un fattore descrittivo in una barriera predittiva.

Analogamente, in ambito sanitario, l’AI utilizzata per supportare diagnosi e terapie può risultare meno accurata per i gruppi etnici minoritari se i dataset di addestramento sono composti prevalentemente da pazienti appartenenti a un’unica popolazione di riferimento.

In questo caso, il rischio non è soltanto giuridico o etico, ma direttamente clinico, perché un errore predittivo può tradursi in un trattamento meno efficace o in un ritardo diagnostico.

Il nodo centrale del problema risiede nella progettazione dei sistemi.

La selezione dei dataset, la loro qualità e rappresentatività, i criteri adottati per l’addestramento, le metriche di performance scelte e gli obiettivi incorporati nel codice influenzano direttamente gli output.

L’Intelligenza Artificiale, infatti, non inventa il futuro in modo autonomo ma rielabora il passato attraverso calcoli probabilistici.

Se il passato è stato segnato da disuguaglianze, l’algoritmo rischia di trasformarsi in un potente moltiplicatore di tali squilibri.

Affrontare il problema significa andare oltre la semplice accuratezza statistica.

Un sistema può essere altamente performante sul piano predittivo e, al tempo stesso, produrre dei risultati disuguali.

L’efficienza tecnica non coincide automaticamente con la giustizia sostanziale.

È quindi necessario integrare i parametri di equità, pluralismo e inclusione sin dalla fase di progettazione.

Ciò implica controlli rigorosi sulla qualità sui dati, audit indipendenti, supervisione umana significativa e meccanismi di reclamo chiari per coloro che subiscono decisioni automatizzate.

Gli algoritmi devono essere testati su campioni diversificati e sottoposti a verifiche periodiche, con procedure di correlazione tempestiva in caso di discriminazioni rilevate.

Solo in questo modo l’AI può trasformarsi in uno strumento di promozione dell’uguaglianza sostanziale e non in un fattore di esclusione sistematica.

La cornice europea tra tutela dei diritti e regolazione del rischio

Nel contesto europeo la regolazione dell’Intelligenza Artificiale si è sviluppata a partire da un presupposto fondamentale, ovvero che la tecnologia deve essere al servizio della persona e non viceversa.

L’Agenzia dell’Unione europea per i diritti fondamentali ha più volte sottolineato come l’utilizzo dell’AI debba essere pienamente compatibile con la Carta dei diritti fondamentali dell’Unione europea e con la Convenzione europea dei diritti dell’uomo, richiamando in particolare la tutela della dignità umana, il principio di non discriminazione, il diritto alla protezione dei dati e l’accesso effettivo alla giustizia.

In tale prospettiva si colloca il Regolamento (UE) 2024/1689, meglio noto come AI Act.

Esso introduce un approccio innovativo basato sulla classificazione dei sistemi di AI secondo il livello di rischio che essi comportano per i diritti fondamentali e la sicurezza delle persone.

Il regolamento distingue tra:

• sistemi a rischio inaccettabile, vietati in quanto incompatibili con i valori dell’Unione. Un esempio sono forme di social scoring o di manipolazione comportamentale;
• sistemi ad alto rischio, ammessi ma soggetti a rigorosi requisiti;
• sistemi a rischio limitato, per i quali sono previsti obblighi di trasparenza;
• sistemi a rischio minimo, sostanzialmente liberi da vincoli specifici.

Particolare attenzione è riservata ai sistemi ad alto rischio, tra cui rientrano quelli utilizzati per la selezione del personale, l’accesso all’istruzione, la valutazione dell’affidabilità assicurativa, la gestione delle infrastrutture critiche e l’erogazione di servizi pubblici.

Per tali applicazioni sono previsti requisiti stringenti quali la qualità e la governance dei dati, la documentazione tecnica dettagliata, la tracciabilità delle operazioni, la trasparenza verso gli utenti, la supervisione umana effettiva e le valutazioni preventive di impatto sui diritti fondamentali.

Il principio di proporzionalità costituisce l’asse portante dell’intero impianto normativo: quanto maggiore è l’impatto potenziale del sistema sulla vita delle persone, tanto più intensi devono essere i controlli e le garanzie.

Ciò implica, ad esempio, che un algoritmo utilizzato in ambito sanitario o giudiziario debba essere sottoposto a verifiche molto più rigorose rispetto a un sistema di raccomandazione per contenuti di intrattenimento.

Parallelamente, la recente “Convenzione quadro del Consiglio d’Europa sull’intelligenza artificiale, i diritti umani, la democrazia e lo Stato di diritto” rafforza l’approccio orientato ai diritti umani lungo l’intero ciclo di vita dei sistemi, dalla fase di progettazione fino alla dismissione.

La Convenzione sottolinea la necessità di garantire trasparenza, accountability e rimedi effettivi contro eventuali violazioni, consolidando l’idea che l’innovazione tecnologica debba integrarsi in un quadro di responsabilità democratica.

L’Unione europea si propone così di promuovere un modello di “sovranità digitale responsabile”, nel quale lo sviluppo tecnologico e la tutela dei diritti fondamentali procedano congiuntamente.

La regolamentazione non rappresenta un ostacolo all’innovazione ma mira a creare fiducia nei cittadini e negli operatori economici, favorendo un ecosistema in cui l’AI sia percepita come affidabile e legittima.