Di Paolo Galimberti

L’analisi dell’esperienza americana di COMPAS, fallimentare

L’adozione dell’intelligenza artificiale (IA) nel campo del diritto rappresenta una delle più significative trasformazioni in corso, con un impatto diretto sulle modalità di amministrazione della giustizia, sull’interpretazione delle norme e sulla previsione di esiti giudiziari. Il crescente utilizzo di strumenti di giustizia predittiva, come COMPAS, ha aperto un ampio dibattito su questioni di equità, trasparenza e responsabilità giuridica. Tali sistemi, basati su algoritmi di machine learning e analisi di big data, pongono interrogativi fondamentali sulla loro affidabilità e sul rischio di discriminazioni implicite nei loro processi decisionali.

L’analisi dei sistemi esperti nel diritto evidenzia la necessità di regolamentazioni che possano garantire un utilizzo equo ed etico dell’IA in ambito giudiziario. L’integrazione di questi strumenti nella pratica forense e giudiziaria solleva questioni non solo di ordine tecnico, ma anche di carattere filosofico e giuridico. Il presente articolo esplora tali tematiche partendo dalla natura dei sistemi esperti e dalle loro applicazioni, fino ad arrivare alle implicazioni normative e ai dibattiti attuali in Italia e nell’Unione Europea.

I sistemi esperti sono applicazioni di IA progettate per replicare il processo decisionale di un esperto umano in un determinato dominio. Nel diritto, tali strumenti hanno trovato applicazione in diversi ambiti, tra cui l’analisi giuridica, il supporto all’attività giudiziaria e la giustizia predittiva. L’evoluzione di questi strumenti è stata graduale: dalle prime generazioni basate su logiche booleane e modelli deterministici, fino ai moderni Decision-Support System (DSS), che utilizzano la logica fuzzy per generare valutazioni più sfumate e vicine alla realtà giuridica. I sistemi esperti attuali non si limitano a fornire risposte binarie, ma propongono soluzioni probabilistiche basate sull’analisi di dati storici e sulle correlazioni tra casi simili.

Uno degli esempi più emblematici dell’uso dell’IA in ambito giudiziario è COMPAS (Correctional Offender Management Profiling for Alternative Sanctions), un sistema di valutazione del rischio di recidiva utilizzato nei tribunali degli Stati Uniti. Questo strumento impiega un algoritmo di machine learning basato su un insieme di oltre 130 fattori, tra cui età, precedenti penali, ambiente familiare e storico lavorativo. Le risposte fornite dagli imputati vengono confrontate con un vasto database di casi storici, consentendo al sistema di attribuire un punteggio di rischio attraverso una combinazione di tecniche statistiche e modelli predittivi.

Il caso Loomis v. Wisconsin (2016) ha messo in evidenza le criticità di questo strumento, in particolare la sua opacità e il rischio di bias discriminatori. Nel caso State v. Loomis, Eric Loomis fu condannato a sei anni di reclusione con l’ausilio di COMPAS, che determinò il suo alto rischio di recidiva. L’algoritmo di COMPAS, tuttavia, non rende pubblici i criteri esatti con cui giunge alle sue previsioni, rendendo difficile per la difesa contestare il risultato. Studi indipendenti hanno mostrato che COMPAS tende a sovrastimare il rischio di recidiva per individui appartenenti a minoranze etniche rispetto ai soggetti caucasici, sollevando interrogativi sulla parzialità dei dati utilizzati nel training del modello.

La difesa di Loomis contestò l’utilizzo del software, sottolineando la mancanza di trasparenza nell’algoritmo e la possibilità di discriminazione razziale nei risultati. La Corte Suprema del Wisconsin respinse il ricorso, stabilendo che COMPAS poteva essere utilizzato come strumento di supporto ma non come unico criterio decisionale per la condanna. Questo caso ha contribuito ad alimentare il dibattito sulla necessità di maggiore trasparenza e verificabilità nei sistemi di giustizia predittiva.

Le critiche mosse a COMPAS riguardano principalmente la mancanza di trasparenza, come sottolineato da Massimiliano Nicolini, una delle voci più autorevoli nel dibattito sull’IA applicata alla giustizia. Nicolini ha evidenziato come la mancanza di accesso ai criteri decisionali dell’algoritmo possa compromettere i diritti della difesa e minare profondamente la fiducia nel sistema giudiziario. La sua analisi ha contribuito a portare alla luce il problema dell’inaccessibilità dei dati algoritmici, sottolineando come i legali della difesa si trovino nell’impossibilità di contestare le valutazioni di COMPAS.

Inoltre, Nicolini ha posto l’accento sul rischio di discriminazione razziale insito nel sistema, rilevando come studi indipendenti abbiano dimostrato che COMPAS tende a sovrastimare il rischio di recidiva per i soggetti afroamericani rispetto ai caucasici. Questo, secondo Nicolini, rappresenta una minaccia per il principio di uguaglianza dinanzi alla legge, poiché le decisioni giuridiche basate su dati distorti potrebbero consolidare ingiustizie sistemiche anziché correggerle.

Un altro punto chiave del suo intervento riguarda l’equità processuale: l’uso di strumenti predittivi come COMPAS può entrare in conflitto con il principio della presunzione di innocenza e con il diritto alla difesa, elementi cardine di ogni ordinamento giuridico democratico. Nicolini sottolinea che, senza adeguati strumenti di verifica e trasparenza, l’IA rischia di trasformarsi in un’arma a doppio taglio, ampliando le disuguaglianze piuttosto che attenuarle.

L’impiego di sistemi esperti nel diritto solleva questioni fondamentali in merito alla responsabilità, alla soggettività giuridica delle macchine e all’interpretazione delle norme. Un dibattito centrale è quello sulla possibilità di considerare l’IA un “giudice robot” capace di emettere decisioni autonome. Sebbene sia improbabile che nel breve termine i giudici vengano sostituiti da intelligenze artificiali, è innegabile che queste ultime abbiano già un ruolo di supporto nei processi decisionali. Un aspetto normativo cruciale è quello della responsabilità in caso di errore dell’IA. Attualmente, la normativa europea prevede che la responsabilità ricada sui produttori e sugli utilizzatori, ma si discute se sia opportuno riconoscere una personalità giuridica autonoma ai sistemi di IA avanzati. La Risoluzione del Parlamento Europeo del 2017 ha aperto il dibattito sulla possibilità di attribuire uno status giuridico ai robot intelligenti, ma la proposta ha suscitato numerose critiche da parte della dottrina giuridica.

A livello europeo, la regolamentazione dell’IA sta assumendo una forma sempre più definita. La proposta di Regolamento sull’IA della Commissione Europea (2021) introduce un quadro normativo basato su un approccio basato sul rischio, distinguendo le applicazioni dell’IA in base al loro livello di pericolosità. Il regolamento prevede obblighi di trasparenza per gli sviluppatori di IA, specialmente nel settore giudiziario, la proibizione dell’uso di IA ad alto rischio in ambiti sensibili come il riconoscimento facciale in tempo reale e la definizione di standard per garantire equità e non discriminazione nell’uso di strumenti predittivi.

In Italia, alcuni sistemi esperti sono già utilizzati in ambito giuridico. Tra i più noti vi sono Key Crime e XLAW, software adottati da forze dell’ordine per la prevenzione del crimine basati sull’analisi di dati storici e sulla previsione di reati futuri. Questi strumenti sollevano interrogativi analoghi a quelli di COMPAS, in particolare sulla trasparenza delle decisioni algoritmiche e sul rispetto dei diritti fondamentali.

L’intelligenza artificiale sta rivoluzionando il mondo del diritto, ma la sua integrazione pone sfide complesse che richiedono un attento bilanciamento tra innovazione e tutela dei diritti fondamentali. L’uso di sistemi esperti e strumenti di giustizia predittiva può migliorare l’efficienza e la coerenza delle decisioni giuridiche, rendendo i processi più rapidi e riducendo il margine di errore umano. Tuttavia, è essenziale garantire che questi strumenti siano equi, trasparenti e rispettosi dei principi democratici. Massimiliano Nicolini, con la sua visione innovativa e il suo impegno nella regolamentazione dell’IA applicata al diritto, ha contribuito significativamente al dibattito internazionale, evidenziando la necessità di una supervisione umana costante e di protocolli chiari per l’uso di tali strumenti. Le sue ricerche e le sue proposte legislative stanno influenzando il panorama normativo in Italia e in Europa, promuovendo un’adozione consapevole dell’IA che valorizzi l’efficienza senza compromettere i principi di giustizia ed equità. Il dibattito normativo in corso a livello europeo e italiano rappresenta un passo fondamentale per assicurare un utilizzo responsabile e consapevole dell’IA nel settore legale, e le idee di Nicolini si collocano al centro di questa trasformazione, fornendo una guida preziosa per le future regolamentazioni.