GenAI e Fake Law: Come l’IA sta cambiando l’Accesso alla Giustizia (e i rischi del Model Collapse)

1. Il Fatto Tecnologico: Dominio senza Sovranità

Partiamo dai numeri, perché i numeri qui pesano più delle intenzioni — a patto di leggerli correttamente.

Il EDPS High-Risk AI Systems Mapping Report del dicembre 2025 ha mappato 186 sistemi nelle istituzioni, agenzie e organismi dell’UE (EUIs), con un tasso di risposta dell’87%. La GenAI è la tecnica più comunemente segnalata nell’uso generale, raggiungendo il 53% dei sistemi mappati. Ma questo dato va letto insieme al suo complemento: nei sistemi classificati potenzialmente ad alto rischio (Allegato III), la GenAI scende al 22%.

Nelle decisioni che contano davvero — gestione del personale, migrazione, valutazione creditizia — le istituzioni europee preferiscono ancora il machine learning "classico", più verificabile, più spiegabile, più ancorato a logiche deterministiche.

Non è un dato rassicurante. È un argine temporaneo.

Perché la traiettoria è chiara: la GenAI entra prima nell’uso quotidiano — assistenza alla redazione, ricerca documentale, traduzione, sintesi — e poi, per inerzia e familiarità, si estende verso le funzioni più critiche. L’EDPS non documenta solo la fotografia attuale. Documenta la direzione del movimento.

Il problema strutturale rimane: il 45% dei sistemi di IA ad alto rischio potenziale classificati nell’Allegato III è esclusivamente utilizzato, non sviluppato, dalle istituzioni europee. Siamo utenti di tecnologie terze — principalmente americane — ottimizzate per mercati e obiettivi definiti altrove. E la dipendenza ha una sua logica economica che il ciclo normativo non può competere: i dataset per LLM raddoppiano di dimensioni circa ogni otto mesi.

GPT-3 è stato addestrato su 570 GB di testo; l’infrastruttura di storage unificato di Meta per i dati di training può raggiungere la scala dell’exabyte — un miliardo di gigabyte.

Quando parliamo di regolazione dell’AI in Europa, stiamo parlando di imporre vincoli a un’infrastruttura che cresce a una velocità che il ciclo legislativo non può inseguire. La domanda non è se l’argine reggerà. È quanto costerà mantenerlo.

2. Il Cortocircuito Operativo: La “Fake Law” e la Giustizia dei Poveri

Se il punto precedente descrive un problema strutturale di governance tecnologica, questo descrive un problema immediato, misurabile, con nomi e cognomi. E con una dimensione etica che l’analisi superficiale tende a perdere.
Il report "GenAI, Fake Law & Fallout" dell’UNSW ha analizzato 520 casi accertati di uso o abuso di GenAI in procedimenti legali tra gennaio 2023 e settembre 2024, distribuiti in 10 giurisdizioni. È necessaria una precisione metodologica: non si tratta di una statistica totale degli incidenti giudiziari globali, ma di una mappatura sistematica dei punti di rottura — casi in cui il fallimento è stato abbastanza grave da lasciare traccia documentale. Il numero reale di procedimenti contaminati da output sintetici non verificati è, con ogni probabilità, considerevolmente superiore. I 520 casi sono il segnale, non la dimensione del fenomeno.
Prima di procedere, vale la pena definire con precisione di cosa stiamo parlando. La "Fake Law" non è semplicemente un errore di ricerca giuridica: è l’immissione di output sintetici non verificati in atti di fede pubblica — memorie, citazioni, argomentazioni difensive — che il sistema giudiziario è obbligato a trattare come fonti attendibili fino a prova contraria. Questa definizione consente anche di distinguere due profili di rischio diversi per natura e gravità.
Il primo è l’allucinazione involontaria: il modello genera un precedente inesistente, l’operatore non verifica, l’atto viene depositato in buona fede. È negligenza professionale, talvolta grave, ma non dolosa. Il secondo profilo, più raro ma non assente nella letteratura, è quello della potenziale frode processuale: il modello viene usato consapevolmente per costruire un’architettura argomentativa che il professionista sa essere parzialmente o totalmente falsa, confidando nell’impossibilità pratica della controparte di verificarne ogni singolo elemento. La distinzione non è accademica: incide sul profilo di responsabilità, sull’adeguatezza delle sanzioni e sul tipo di presidio normativo necessario.
Il report codifica quattro pattern ricorrenti: citazioni e precedenti inesistenti depositati come prove; ragionamento giuridico internamente incoerente; documentazione proceduralmente scorretta; inondazione dei tribunali con atti prolissi generati automaticamente — il cosiddetto "flooding".
La narrativa dominante su questi incidenti si concentra sulla negligenza professionale. Il caso australiano Murray v State of Victoria ne è l’emblema: un avvocato junior che compila citazioni giurisprudenziali da Google Scholar generato da IA senza verificarle, con la maggior parte delle citazioni falsa o errata, e la conseguente condanna alle spese processuali.
Ma questa lettura cattura una minoranza del fenomeno.
Il dato che ridisegna completamente il profilo etico del problema è questo: il 78% dei 520 casi documentati riguarda soggetti non rappresentati da avvocati — cittadini che usano ChatGPT come difensore d’ufficio gratuito, spesso perché non possono permettersi un professionista. Non è negligenza. È disperazione. Non è una scorciatoia per esperti. È l’ultima spiaggia per chi è escluso dal mercato legale tradizionale.
Ed è qui che la lettura del fenomeno richiede un’inversione causale. La GenAI non è la causa del degrado legale: è il suo sintomo più visibile. La causa è un sistema che non eroga servizi giuridici a costi accessibili per una fascia sempre più ampia di popolazione. La GenAI è la medicina tossica che chi è escluso da quel sistema si somministra da solo, in assenza di alternative migliori. Incolpare lo strumento senza interrogarsi sul vuoto che lo ha reso necessario è un errore di diagnosi — e produce risposte terapeutiche sbagliate.
Questo significa che il "default" non è solo tecnologico. È economico. La GenAI è diventata il default perché è l’unico avvocato che quella fascia di persone può permettersi. Il fallimento non è nella scelta dello strumento — è nell’assenza di alternative. E questo lega in modo diretto il "fatto tecnologico" alla realtà sociale: quando una tecnologia strutturalmente inaffidabile diventa la sola opzione accessibile per esercitare un diritto fondamentale, il problema smette di essere un problema di compliance e diventa un problema di giustizia.
La GenAI non sta solo creando un problema di qualità del diritto. Sta rendendo visibile — e amplificando — una giustizia di serie B preesistente, ora alimentata da allucinazioni, per chi non ha alternative. Nessuna norma di deontologia forense risolve questo problema. Nessun obbligo di supervisione professionale raggiunge chi di un professionista non dispone. Richiede una riflessione sul modello di accesso alla giustizia che va molto oltre la compliance AI.

3. Il Cortocircuito Giuridico: La Fine della Neutralità del GDPR

Il GDPR nasce con una caratteristica che il Recital 13 dichiara esplicitamente: la neutralità tecnologica. La norma non discrimina tra tecnologie. Si applica a qualsiasi trattamento di dati personali, indipendentemente dagli strumenti utilizzati.
La proposta Digital Omnibus della Commissione Europea (novembre 2025) incrina questo principio in modo strutturale.
L’Art. 88c introduce il legittimo interesse come base giuridica esplicita per il trattamento di dati necessario allo sviluppo e all’operatività di sistemi AI. Ma la modifica più rilevante sul piano dei diritti fondamentali è l’introduzione del nuovo Art. 9(2)(k) GDPR: un’esenzione esplicita al divieto di trattare categorie particolari di dati personali — salute, orientamento sessuale, origine etnica, convinzioni politiche — quando il trattamento avviene nel contesto dello sviluppo di un sistema AI, purché non "manifestamente sproporzionato" e soggetto a garanzie tecniche come la pseudonimizzazione.
noyb, nel proprio position paper del dicembre 2025, identifica il difetto strutturale: il test di necessità non scompare, ma la sua soglia si abbassa radicalmente. Non si chiede più se quei dati sensibili siano necessari al fine specifico del trattamento, ma solo se il trattamento complessivo per "sviluppo AI" non sia manifestamente sproporzionato. In sede giudiziaria, questa distinzione può fare tutta la differenza, ed espone la norma a impugnazioni per violazione dell’Art. 8 della Carta dei Diritti Fondamentali dell’UE.
Va però ascoltata anche la voce del legislatore, che un’analisi seria non può ignorare.
I difensori del Digital Omnibus — e i Recital 32 e 33 della proposta lo esplicitano — sostengono che senza l’Art. 9(2)(k), l’Europa rimarrà una colonia digitale. I dataset di training per modelli fondazionali contengono inevitabilmente "rumore sensibile": testi medici, dibattiti politici, forum di supporto psicologico. Non perché i provider li cerchino, ma perché internet è fatto così. Pretendere di addestrare modelli linguistici su dati sterili da categorie speciali non è una garanzia di privacy — è una garanzia di irrilevanza tecnologica.
Questo non rende l’Art. 9(2)(k) immune da critica. Lo rende un trade-off consapevole, non un errore tecnico. E i trade-off che toccano i diritti fondamentali richiedono test di proporzionalità documentati e trasparenti — che, allo stato attuale della proposta, restano insufficienti. L’EDPB, nel parere congiunto pubblicato insieme all’EDPS, ha accolto con cautela l’esenzione sui dati sensibili ma ha ritenuto superfluo l’Art. 88c, in quanto il legittimo interesse è già applicabile caso per caso — criticando esplicitamente quella che ha definito una "finzione giuridica" per mancanza di test di proporzionalità strutturati.
Il punto non è scegliere tra sovranità tecnologica e diritti individuali. È rifiutare la premessa che siano alternative esclusive.

4. Il Paradosso Tecnologico: La Promessa Spezzata dei Dati Sintetici

C’è una logica interna alla deriva normativa descritta nel punto precedente. Se il GDPR rende difficile raccogliere dati reali per il training AI, la soluzione tecnica alternativa è usare dati sintetici — generati artificialmente per mimare le caratteristiche statistiche dei dati reali senza contenere informazioni personali identificabili.
È una soluzione elegante sulla carta. È un vincolo di ottimizzazione con costi economici reali nella pratica — e va detto con questa precisione, perché presentarlo come una condanna tecnologica sarebbe ingenuità, e ignorarlo sarebbe disonestà intellettuale.
Shumailov et al. (Nature, 2024) — la fonte scientifica più citata sul tema — dimostrano che la sostituzione sistematica di dati reali con dati sintetici ricorsivi causa il cosiddetto "model collapse": la test loss diverge iterativamente, il modello perde informazioni sulla distribuzione originale dei dati, la diversità degli output si restringe progressivamente. Ma lo stesso studio dimostra che il collasso non è inevitabile: accumulare dati reali e sintetici insieme mantiene un errore finito e limitato. Non è un destino, è un problema di engineering — costoso, ma gestibile se si preserva l’accesso a corpus reali sufficientemente ampi e diversificati.
Questa precisione tecnica è politicamente rilevante, perché chiarisce cosa sta effettivamente cercando di fare il Digital Omnibus. L’Art. 88c e l’Art. 9(2)(k) non sono solo strumenti di deregolamentazione: sono, almeno nella loro intenzione dichiarata, una risposta al vincolo di ottimizzazione che Shumailov et al. descrivono. Se i modelli hanno bisogno strutturale di un ancoraggio continuo ai dati reali, e se raccogliere dati reali in Europa è diventato giuridicamente complesso, allora il legislatore europeo ha scelto di allentare il vincolo normativo piuttosto che investire in infrastrutture alternative.
È una scelta discutibile — e noyb la discute con argomenti seri. Ma è una scelta coerente con una logica ingegneristica che non si può semplicemente ignorare. La promessa dei dati sintetici come panacea per la privacy è falsa: un regime normativo che rendesse impossibile l’accesso a dati reali non risolverebbe il problema della dipendenza — lo aggraverebbe, aumentando i costi di training, riducendo la qualità dei modelli europei e accelerando la dipendenza da provider extraeuropei che su quel vincolo non hanno le stesse restrizioni.
Il problema non è dunque se i dati sintetici possano sostituire i dati reali — non possono, e la letteratura lo dimostra. Il problema è chi possiede quei dati reali necessari, a quali condizioni li cede, e con quale controllo sull’utilizzo downstream. Nessuna quantità di differential privacy o output filtering risponde a queste domande. Le risponde la governance — e la governance, qui, è esattamente ciò che manca.
L’Art. 10(5) dell’AI Act impone già obblighi di qualità e rappresentatività dei dati per i sistemi high-risk. Il model collapse da dati sintetici è esattamente il tipo di degradazione che quella norma cerca di prevenire. Ma tra l’obbligo normativo e la capacità tecnica di verificarlo, c’è ancora un abisso che né il regolatore né i provider sembrano pronti a colmare con strumenti diversi dall’allentamento delle tutele.
Se la tecnica richiede dati reali per non collassare, e la società richiede l’AI per accedere alla giustizia, chi rimane a sorvegliare che questo meccanismo non produca ingiustizia automatizzata?

5. Il Nodo Irrisolto: Chi Supervisiona il Default?

Tornando al punto di partenza, con il quadro più completo.
La GenAI è diventata il default operativo in contesti dove il default presuppone affidabilità. L’argine nei sistemi ad alto rischio (22% vs 53%) è reale, ma temporaneo. I 520 casi documentati dall’UNSW — mappatura dei punti di rottura, non statistica totale — descrivono una curva che sale. E la dimensione più scomoda di quella curva non è la negligenza professionale, ma la disperazione civica: persone che usano l’AI come unica forma di accesso alla giustizia, in assenza di alternative strutturalmente accessibili.
Vale la pena dirlo chiaramente, prima di procedere con la critica: la GenAI, in contesti dotati di supervisione reale e standard di affidabilità adeguati, offre potenzialità concrete. Può democratizzare l’accesso alla ricerca giuridica, abbattere i costi di redazione documentale, supportare giudici e avvocati nella gestione di volumi informativi altrimenti ingestibili. Il problema non è lo strumento in sé. È la distanza abissale tra questa visione e la realtà operativa attuale — una distanza che si chiama compliance-washing.
Il compliance-washing dell’human oversight funziona così: la norma richiede un "intervento umano significativo" (Art. 22 GDPR), l’organizzazione designa un responsabile, il responsabile firma una checklist, la checklist certifica che la supervisione è avvenuta. Nel frattempo, nessuno ha effettivamente verificato se le citazioni giurisprudenziali esistono, se il ragionamento è coerente, se l’output riflette la realtà o un’allucinazione statistica particolarmente plausibile.
Perché la supervisione reale — non quella formale — presuppone tre condizioni che raramente coesistono: consapevolezza del rischio specifico, competenza tecnica sufficiente per riconoscere gli errori, tempo per verificare gli output in modo indipendente. Quando una delle tre manca, l’oversight si riduce a una firma su un documento che non si è letto.
Il GDPR Art. 22 limita le decisioni automatizzate con effetti giuridici, richiedendo intervento umano significativo. L’AI Act introduce obblighi di human oversight per i sistemi high-risk. Sono norme giuste — e potrebbero funzionare, se accompagnate da standard operativi che definiscano cosa significa "significativo" in termini misurabili, non solo processuali. Ma le norme giuste applicate formalmente producono lo stesso risultato delle norme sbagliate: compliance documentata, rischio sostanziale invariato.
La struttura del problema è questa: il default tecnologico crea aspettative di affidabilità che la tecnologia non garantisce; la pressione operativa scoraggia la verifica sistematica; il compliance-washing offre una copertura giuridica che non corrisponde a una copertura di rischio; e chi subisce le conseguenze peggiori è chi non aveva alternative all’inizio.
È una struttura di incentivi che produce il problema che la norma cerca di prevenire, e lo produce sistematicamente.

Conclusioni: Il Default come Problema di Governance

Il dibattito su "GenAI come problema giuridico o fatto tecnologico" è mal posto. Non perché la distinzione sia irrilevante, ma perché entrambe le cose sono vere contemporaneamente e si alimentano a vicenda: un fatto tecnologico che produce conseguenze giuridiche, e un problema giuridico che il fatto tecnologico rende progressivamente più difficile contenere.
Le tre tensioni che strutturano questo articolo non sono risolvibili in isolamento.
La dipendenza strutturale non si risolve con un’esenzione sui dati sensibili — ma senza quell’esenzione, la competitività dei modelli europei si riduce ulteriormente. La fake law non è causata dalla GenAI, ma dal vuoto di accesso alla giustizia che la GenAI ha reso visibile e amplificato — e il 78% dei casi riguarda chi non aveva alternative a prescindere. Il model collapse non è un’apocalisse tecnologica, ma un vincolo di ottimizzazione con costi economici reali che il Digital Omnibus cerca di gestire allentando le tutele privacy, con test di proporzionalità ancora insufficienti.
Il Digital Omnibus fa una scelta: privilegia la competitività industriale e la sovranità tecnologica rispetto alla tutela rigida dei diritti individuali. Non è necessariamente la scelta sbagliata. Ogni regolazione è un trade-off. Ma è una scelta che andrebbe fatta esplicitamente, con standard operativi verificabili — non attraverso formulazioni come "manifestamente sproporzionato" che spostano l’onere interpretativo verso chi detiene il potere tecnologico, né attraverso obblighi di supervisione che si prestano al compliance-washing.
La GenAI, con supervisione reale e standard di affidabilità strutturati, potrebbe effettivamente ampliare l’accesso alla giustizia, ridurre i costi del diritto, rendere più efficienti sistemi giudiziari sovraccarichi. Ma tra questa possibilità e la realtà attuale — 520 punti di rottura documentati, cittadini che si affidano ad allucinazioni statistiche per difendersi in giudizio, istituzioni che applicano esenzioni senza aver compilato il campo sull’hosting dei dati — c’è una distanza che non si colma con nuove norme, ma con governance operativa reale.
La vera domanda non è se la GenAI sia un problema giuridico o un fatto tecnologico.
È se siamo attrezzati — come sistema istituzionale, come professionisti, come utenti — per gestire un default che nessuno ha deliberatamente scelto, ma che tutti stiamo subendo.
Perché il default tecnologico non chiede il permesso. Arriva, si installa, diventa normale. E quando diventa normale, diventa invisibile. E quando diventa invisibile, smette di essere una scelta. Diventa semplicemente la realtà.
E quella realtà ha già un costo — lo pagano, per primi, quelli che non possono permettersi di farne a meno.