Il High-Risk AI Systems Mapping Report dell’EDPS non fotografa un’adozione massiva di sistemi high-risk nelle istituzioni europee e nei relativi procedimenti amministrativi.
Rivela qualcosa di più problematico: un modello di governance che impara a neutralizzare semanticamente il rischio prima ancora di misurarlo.
L’uso estensivo delle esenzioni dell’art. 6(3) dell’AI Act, combinato con auto-assessment incompleti e una sottodichiarazione strutturale della profilazione, rischia di svuotare la categoria “high-risk” non per violazione della norma, ma per adattamento interpretativo. Il problema non è l’esenzione in sé, ma il modo in cui — così applicata — può rendere il sistema di monitoraggio parzialmente cieco.
1. Una mappatura che rivela incentivi (e disfunzioni), non solo sistemi
L’EDPS chiarisce che il report si fonda su una mappatura volontaria, basata su auto-assessment, condotta prima che i poteri di market surveillance siano pienamente operativi. Non è una decisione regolatoria, né una classificazione vincolante.
I numerosi campi “blank” o “unknown” possono essere letti in due modi, non mutuamente esclusivi:
- come disordine organizzativo (inventari incompleti, bassa maturità AI);
- come indeterminatezza strategica: finché un sistema non è qualificato, non cristallizza obblighi più onerosi.
Questa seconda lettura non implica necessariamente malafede. Implica riconoscere che, sotto pressione normativa, l’indeterminatezza diventa una posizione razionale di auto-conservazione burocratica.
In questo senso, il report non fotografa solo sistemi AI, ma comportamenti amministrativi in fase di adattamento regolatorio.
2. Più deployer che developer: la classificazione come atto derivato
Il report conferma che la maggior parte delle EUIs utilizza sistemi sviluppati da terzi, spesso off-the-shelf o general-purpose.
Questo dato sposta il problema giuridico: la classificazione del rischio avviene a valle, sulla base di documentazione del provider, istruzioni d’uso, informazioni spesso generiche o incomplete.
È vero che l’AI Act tutela il deployer che si affida alle istruzioni del provider ma questa tutela non coincide con la protezione effettiva dei diritti dei destinatari del sistema.
Il deployer resta il soggetto che:
- integra l’AI nel procedimento amministrativo,
- ne determina la funzione concreta,
- e decide se invocare o meno l’art. 6(3).
Qui emerge un paradosso strutturale: l’esenzione è formalmente legittima, ma materialmente difficile da applicare in modo rigoroso quando la conoscenza del sistema è parziale o mediata, specie per il deployer con risorse tecniche limitate.
3. Annex III come zona di attrazione, non come linea di confine
Molti sistemi risultano potenzialmente riconducibili a categorie dell’Annex III (in particolare employment e job matching), ma vengono declassificati perché qualificati come:
- preparatory,
- supportive,
- non decisionali.
Serve un chiarimento concettuale netto.
L’art. 6(3) non esenta i sistemi “preparatori”.
Esenta i sistemi che non esercitano un’influenza materiale significativa sull’esito decisionale.
La distinzione rilevante non è supporto vs decisione, ma influenza materiale vs irrilevanza.
Un sistema può essere formalmente preparatorio e al tempo stesso sostanzialmente influente, se struttura priorità, attenzione o percorsi decisionali che l’umano non riesamina integralmente.
Supporto formale vs Influenza materiale
(Criteri di qualificazione ai fini dell’art. 6(3) AI Act)
Criterio di qualificazione
Supporto formale
→ Ausilio informativo
→ Output neutro, non prioritizzante
→ Riesame umano completo e realistico
→ Incidenza marginale sui tempi
→ Profilazione assente o residuale
→ Art. 6(3) potenzialmente applicabile
Influenza materiale
→ Orientamento decisionale
→ Output ordinato, filtrato o esclusivo
→ Riesame umano parziale o improbabile
→ Incidenza significativa sui tempi
→ Profilazione potenzialmente presente
→ Art. 6(3) altamente dubbio
4. Automation bias: perché l’“atto umano finale” non basta
L’idea che l’atto umano finale neutralizzi sempre il rischio ignora un fenomeno noto: l’automation bias.
Se un sistema:
- ordina candidature,
- segnala alcune come “non rilevanti”,
- spinge altre sistematicamente in cima alla lista,
l’umano non riesamina l’intero set informativo. Agisce nello spazio cognitivo pre-strutturato dall’AI.
In questi casi, il sistema non decide formalmente, ma decide cosa è visibile, quando e con quale priorità.
Qui il supporto diventa influenza materiale di fatto, anche in assenza di un output decisorio automatico.
5. Profilazione: il punto di rottura (tra tecnica e diritto)
L’art. 6(3) prevede un limite chiaro: l’esenzione non si applica se il sistema comporta profilazione.
È vero che il confine tra classificazione tecnica e profilazione di persone fisiche non è sempre netto. Molti sistemi operano su CV, pratiche o dossier, e non su tratti “psicografici” in senso stretto.
Tuttavia, secondo i canoni consolidati del diritto dell’Unione, le eccezioni vanno interpretate restrittivamente.
Ciò implica che non è sufficiente sostenere che la profilazione non sia la funzione primaria del sistema: è sufficiente che il sistema comporti, anche come effetto funzionale, una valutazione o segmentazione riferibile a persone fisiche.
Nella fase iniziale, l’AI Act si fonda inevitabilmente sull’auto-dichiarazione.
Ma nella fase di controllo, chi invoca l’esenzione deve essere in grado di giustificarla, specie quando il trattamento può integrare profilazione ai sensi del GDPR. È qui che il coordinamento con il DPO diventa cruciale: un sistema “esentato” ai fini AI Act può comunque sollevare obblighi e criticità sul piano della protezione dei dati.
6. Employment e “influenza invisibile”: un esempio realistico
Consideriamo un sistema che supporta il matching tra CV e requisiti tecnici, limitandosi a:
- evidenziare skill mancanti,
- suggerire priorità di lettura,
- escludere automaticamente i profili “non allineati”.
Formalmente:
- non assume,
- non respinge,
- non produce un punteggio dichiarato.
Materialmente:
- struttura l’accesso al colloquio,
- riduce significativamente la probabilità di valutazione umana,
- segmenta i candidati in categorie operative.
Qui qualificare il sistema come “preparatorio” è corretto. Qualificarlo come irrilevante non lo è.
Ed è proprio in questi casi che l’art. 6(3) dovrebbe operare come filtro rigoroso, non come scorciatoia semantica.
7. Auto-assessment: necessario, ma non autosufficiente
L’auto-assessment è inevitabile in un ecosistema complesso.
Ma senza:
- ispezioni campionarie sui sistemi esentati,
- tracciabilità delle motivazioni che giustificano l’uso dell’art. 6(3),
- coordinamento effettivo con le autorità GDPR,
rischia di trasformarsi in compliance theatre: si classifica, si esenta, si procede.
È vero che anche i sistemi previsti dall’Annex III ed esentati restano soggetti alla registrazione nel database UE. Tuttavia, questo strumento non è una panacea: se le informazioni inserite sono generiche, il database rischia di diventare un semplice elenco.
La sua efficacia dipende da un elemento decisivo, previsto dall’Allegato VIII: la motivazione documentata dell’esenzione. È questo il gancio giuridico che rende possibile un controllo effettivo.
Nel settore pubblico, la posta in gioco è più alta. Le EUIs non sono solo utenti, ma standard-setter impliciti. Le loro prassi orientano il mercato e, nel tempo, anche il contenzioso.
Conclusioni: il rischio è lo svuotamento silenzioso dell’high-risk
Il report EDPS non dimostra un abuso dell’art. 6(3).
Dimostra che la classificazione del rischio è diventata il primo terreno di contesa dell’AI Act.
Se:
- l’influenza materiale viene confusa con il supporto formale,
- la profilazione resta invisibile per definizione,
- l’auto-assessment non è controbilanciato da controlli effettivi,
il rischio non è che tutto diventi high-risk. È che l’high-risk venga progressivamente svuotato, non per violazione della norma, ma per adattamento semantico.
Ed è plausibile che questa neutralizzazione non venga corretta solo in sede amministrativa, ma — nel tempo — dalla giurisprudenza, quando la classificazione errata diventerà oggetto di contenzioso, spesso promosso non da singoli individui, ma da autorità, sindacati o organismi collettivi.
Per questo il High-Risk AI Systems Mapping Report non dovrebbe restare un esercizio descrittivo, ma diventare la base per interventi mirati proprio sui sistemi “preparatori”, “di supporto”, “unknown”.
È lì che l’AI Act verrà davvero messo alla prova.