AI Act: cosa devono fare davvero le aziende (deployer) — obblighi, rischi e limiti della human oversight
Quando la norma chiede di sorvegliare una scatola nera che non si può aprire.
Aggiornamenti e analisi su diritto, tecnologia e compliance. Seguiamo l'evoluzione normativa — dalle novità del Garante Privacy al diritto amministrativo, dall'impatto dell'intelligenza artificiale sulle imprese alle ultime tendenze in materia di GDPR e AI Act — per offrire ai nostri clienti una lettura concreta di ciò che cambia.
Quando la norma chiede di sorvegliare una scatola nera che non si può aprire.
Quella divergenza ha un nome tecnico: colpa d'organizzazione.
Il rischio non è solo l'elusione deliberata, ma l'auto-valutazione inadeguata in un quadro normativo sovrapposto e confuso.
Lo scarto tra intended use e impatto reale non è un difetto di applicazione: è una tensione strutturale dell'architettura normativa.
Proprio per questo, il mapping rivela tanto ciò che entra nella governance quanto ciò che tende a restarne fuori.
Il problema non è l'esenzione in sé, ma il modo in cui — così applicata — può rendere il sistema di monitoraggio parzialmente cieco.
Non è una conseguenza giuridica del pacchetto, né una previsione sul suo esito politico: è la lettura di un effetto già presente nei processi aziendali, che il pacchetto rende solo più difficile ignorare.
Non è ancora il testo definitivo, ma è il benchmark che orienterà le Autorità.
Quando la tecnologia precede il diritto, il diritto insegue. Ma quando la tecnologia diventa infrastruttura, il diritto rischia di diventare irrilevante.
Si delinea invece un corridoio molto stretto in cui il modello può dirsi compatibile con l'idea di consenso libero (artt. 4(11) e 7 GDPR) e con i vincoli specifici per i gatekeeper.
Come il caso BrowserGate rivela un nuovo modello di tracking oltre il GDPR: il controllo dell'ambiente di navigazione e il ruolo del DMA.
Ignorare questa tensione significa costruire un'argomentazione elegante per un'architettura che nessuno adotterà.