AI Act e GDPR nella Pubblica Amministrazione: guida pratica per chi non è giurista

Introduzione: la conformità non è un ostacolo, è un metodo

Quando si parla di intelligenza artificiale nella Pubblica Amministrazione, una delle domande più frequenti è: “Ma è legale? Possiamo usarla?” La risposta, nella maggior parte dei casi, è sì — ma con regole precise, che è necessario conoscere prima di iniziare.

Non serve essere giuristi per orientarsi nel quadro normativo dell’AI. Serve capire i principi fondamentali, sapere quali comportamenti sono vietati, quali richiedono cautele e come documentare in modo minimo ma efficace ciò che si fa. Questa guida è pensata esattamente per questo: tradurre l’AI Act europeo e il GDPR in indicazioni operative concrete per chi lavora negli uffici PA.

Questo articolo fa parte della serie “AI e Pubblica Amministrazione”. Se vuole partire dal quadro generale, legga prima la guida completa all’AI nella PA. Per gli aspetti operativi quotidiani, consulti la guida su AI come assistente negli uffici.

Sommario dei punti chiave

• L’AI Act (Regolamento UE 2024/1689) è la prima legge organica sull’AI al mondo ed è già in vigore; si applica progressivamente fino al 2026.
• Per la PA, i rischi più rilevanti riguardano i sistemi che incidono direttamente sui diritti dei cittadini (alto rischio) e i chatbot istituzionali (rischio limitato).
• L’uso interno di AI per la produttività degli uffici rientra prevalentemente nella categoria a rischio minimo, con obblighi meno stringenti.
• Il GDPR si applica ogni volta che si trattano dati personali tramite strumenti AI: occorre non inserire dati identificativi in strumenti non conformi.
• La supervisione umana è un requisito normativo esplicito dell’AI Act per i sistemi ad alto rischio — non una buona pratica facoltativa.
• Documentare l’uso dell’AI in modo minimo (checklist, note interne) è la base di una governance interna sostenibile.

Il Regolamento UE 2024/1689: cos’è l’AI Act e quando si applica

Il Regolamento UE 2024/1689, comunemente chiamato AI Act, è entrato in vigore il 1° agosto 2024 dopo la pubblicazione nella Gazzetta Ufficiale dell’Unione Europea. Si tratta della prima normativa organica sull’intelligenza artificiale a livello mondiale, e si applica a tutte le organizzazioni — incluse le pubbliche amministrazioni — che sviluppano, distribuiscono o utilizzano sistemi di AI nell’Unione Europea.

Il calendario di applicazione è progressivo:

Data	Cosa entra in vigore
2 febbraio 2025	Divieto dei sistemi AI a rischio inaccettabile
2 agosto 2025	Obblighi per i modelli AI per scopi generali (GPAI) e governance
2 agosto 2026	Piena applicazione per i sistemi ad alto rischio
2 agosto 2027	Applicazione ai sistemi ad alto rischio già in uso prima del regolamento

Fonte: Regolamento UE 2024/1689 — Gazzetta Ufficiale UE

Questo significa che molte disposizioni sono già operative, mentre le più stringenti per i sistemi ad alto rischio entreranno pienamente in vigore nel 2026. Non è il momento di aspettare: è il momento di prepararsi.

La classificazione per livello di rischio: cosa cambia per la PA

Il cuore dell’AI Act è una classificazione dei sistemi AI in quattro categorie di rischio, ciascuna con obblighi diversi. Per la PA, questa mappa è lo strumento più utile per capire cosa è permesso, cosa richiede cautele e cosa è vietato.

Rischio inaccettabile — vietato dal 2 febbraio 2025

Sono vietati i sistemi AI che ledono diritti fondamentali in modo non accettabile. Per la PA, i casi più rilevanti includono:

• Sistemi di social scoring da parte di autorità pubbliche (valutazione dei cittadini basata su comportamenti in contesti non correlati)
• Sistemi di sorveglianza biometrica di massa in tempo reale in spazi pubblici (con eccezioni molto limitate)
• Sistemi che sfruttano vulnerabilità di persone o gruppi per manipolarne il comportamento

Implicazione operativa: nessun ufficio PA può adottare o commissionare strumenti AI che rientrano in queste categorie, indipendentemente dalla finalità dichiarata.

Alto rischio — obblighi stringenti

I sistemi ad alto rischio non sono vietati, ma richiedono un ciclo di conformità completo prima di essere messi in uso. Per la Pubblica Amministrazione, rientrano in questa categoria:

• Sistemi usati per l’accesso a servizi pubblici essenziali (istruzione, welfare, sanità, giustizia)
• Sistemi per la valutazione dei candidati in selezioni pubbliche
• Sistemi per la gestione delle infrastrutture critiche
• Sistemi di AI usati in procedure amministrative che incidono su diritti individuali

Obblighi principali per l’alto rischio:

Obbligo	Contenuto
Valutazione di conformità	Verifica che il sistema rispetti i requisiti prima del deploy
Supervisione umana	Meccanismi che permettano a un operatore umano di monitorare, intervenire e disattivare il sistema
Trasparenza	Documentazione tecnica, istruzioni d’uso, log delle attività
Accuratezza e robustezza	Il sistema deve funzionare in modo affidabile anche in condizioni avverse
Registrazione	I sistemi ad alto rischio vanno registrati nella banca dati UE

Implicazione operativa: prima di acquistare o adottare un sistema AI che incide su decisioni relative a cittadini (es. sistemi di scoring per accesso a servizi, strumenti di valutazione automatica delle domande), l’ente deve verificare che il fornitore abbia completato la valutazione di conformità e che esistano meccanismi adeguati di supervisione umana.

Rischio limitato — obblighi di trasparenza

I sistemi a rischio limitato sono quelli che interagiscono direttamente con i cittadini senza incidere su decisioni rilevanti. L’obbligo principale è la trasparenza: il cittadino deve sapere che sta interagendo con un sistema AI.

Casi tipici per la PA:

• Chatbot sul sito istituzionale dell’ente
• Assistenti virtuali per rispondere a richieste frequenti
• Generazione di testi destinati alla pubblicazione (comunicati, FAQ, post social)

Implicazione operativa: se l’ente utilizza un chatbot sul proprio sito, deve indicare chiaramente che si tratta di un sistema automatizzato. Per i contenuti generati dall’AI destinati ai cittadini, è buona prassi — anche se non sempre obbligatoria — indicarne l’origine.

Rischio minimo — nessun obbligo specifico

La grande maggioranza degli strumenti AI per la produttività interna degli uffici rientra in questa categoria: assistenti per la scrittura, strumenti di sintesi documenti, generatori di bozze, supporto alla ricerca normativa. Non esistono obblighi normativi specifici previsti dall’AI Act per questi usi.

Questo non significa assenza di responsabilità. Significa che le regole da applicare sono quelle già esistenti — in primis il GDPR — e quelle di buon senso operativo che ogni ufficio dovrebbe darsi.

Il GDPR e l’uso dell’AI: i principi che non cambiano

Il Regolamento UE 2016/679 (GDPR) non nasce per l’AI, ma si applica integralmente ogni volta che uno strumento AI tratta dati personali. E nella pratica degli uffici PA, questo accade con grande facilità.

Fonte: Regolamento UE 2016/679 — EUR-Lex

Quando si “trattano dati personali” con l’AI

Trattare dati personali tramite AI significa inserire in un prompt — o allegare come documento — informazioni che permettono di identificare una persona fisica: nome, codice fiscale, numero di telefono, indirizzo, ma anche combinazioni di dati che insieme identificano qualcuno (es. “il dipendente nato il… assunto il… con contratto…”).

Esempi di situazioni a rischio:

• Incollare in ChatGPT il testo di un’istanza di un cittadino con nome e dati anagrafici
• Caricare in uno strumento AI un foglio Excel con i dati del personale per elaborare statistiche
• Chiedere all’AI di “riscrivere questa comunicazione” allegando una lettera con dati identificativi

I principi GDPR da applicare nell’uso dell’AI

Principio GDPR	Implicazione per l’uso dell’AI
Minimizzazione dei dati	Inserire nei prompt solo i dati strettamente necessari; preferire dati anonimi o de-identificati
Limitazione della finalità	Non usare dati raccolti per un fine per addestrare o alimentare sistemi AI con scopi diversi
Integrità e riservatezza	Verificare che lo strumento AI non trasmetta i dati a terzi o li usi per addestrare modelli
Responsabilizzazione (accountability)	Documentare le scelte fatte sull’uso dell’AI con dati personali
Diritti degli interessati	I cittadini hanno diritto a non essere soggetti a decisioni automatizzate con effetti significativi

Strumenti consumer vs. strumenti enterprise: la differenza che conta

La distinzione più importante per la PA in tema di GDPR è tra versioni consumer e versioni enterprise degli strumenti AI:

• Le versioni consumer (ChatGPT free, Gemini free) possono usare le conversazioni per migliorare i modelli, trasmettere dati a server fuori UE e non offrono garanzie GDPR adeguate per la PA.
• Le versioni enterprise (Microsoft Copilot con M365, ChatGPT Enterprise, Google Workspace con Gemini Enterprise) offrono contratti di trattamento dati, garanzie di non addestramento sui dati dell’ente, data residency europea e conformità GDPR.

Regola operativa: per qualsiasi attività che coinvolge dati personali — anche minimi — usare esclusivamente versioni enterprise certificate, oppure anonimizzare completamente i dati prima di inserirli nel prompt.

La supervisione umana: da principio a pratica

L’AI Act impone la supervisione umana come requisito esplicito per i sistemi ad alto rischio, ma il principio è valido — e necessario — per qualsiasi uso dell’AI nella PA. La ragione è semplice: la PA risponde degli atti che emette. Se un funzionario usa l’AI per redigere una determina e quella determina contiene un errore, la responsabilità è del funzionario — non dello strumento.

Come si documenta la supervisione umana

Non serve costruire procedure complesse. Bastano pratiche semplici e replicabili:

Checklist minima di supervisione:

• ☐ L’output dell’AI è stato letto integralmente prima dell’uso
• ☐ I dati normativi citati sono stati verificati sulle fonti ufficiali
• ☐ Il testo è stato adattato al contesto specifico dell’ente
• ☐ Nessun dato personale di terzi è stato inserito nello strumento AI senza autorizzazione
• ☐ La versione finale dell’atto o della comunicazione è il risultato di una scelta del funzionario, non dell’AI

Note interne: per attività ricorrenti (es. redazione di comunicazioni standard con supporto AI), è utile tenere traccia — anche in modo semplice — di quale strumento è stato usato e che tipo di verifica è stata effettuata. Questo non è richiesto dalla legge per i sistemi a rischio minimo, ma è una tutela in caso di contestazioni future.

Come costruire una governance AI interna: il “Manuale AI”

Uno degli strumenti più utili per un ufficio PA che vuole usare l’AI in modo strutturato è un Manuale AI interno: un documento semplice che raccoglie regole operative, casi d’uso consentiti, procedure di controllo e indicazioni su come gestire i dati.

Non deve essere un documento lungo o formale. Può iniziare da poche pagine con:

1. Strumenti autorizzati Lista degli strumenti AI che l’ufficio può usare, con indicazione della versione (consumer/enterprise) e del tipo di dati che possono essere inseriti.
2. Casi d’uso consentiti e vietati Elenco delle attività in cui l’AI è utilizzabile (es. bozze di comunicazioni interne, sintesi di documenti pubblici) e di quelle in cui è vietata o richiede autorizzazione specifica (es. qualsiasi attività con dati personali di cittadini senza strumenti certificati).
3. Regole per i dati Indicazioni operative su come anonimizzare i dati prima di inserirli, quali categorie di dati non inserire mai, come verificare che lo strumento usato sia conforme.
4. Procedura di verifica degli output Passi minimi che ogni operatore deve seguire prima di usare un output dell’AI in un contesto ufficiale.
5. Responsabile AI dell’ufficio Identificazione di una figura di riferimento (anche informale) per le domande sull’uso corretto dell’AI e per la gestione dei problemi.

Errori frequenti da evitare

• Usare la versione gratuita di ChatGPT per dati dell’ufficio: le versioni consumer non offrono garanzie GDPR. Anche un semplice testo con nome e cognome di un cittadino costituisce un trattamento non autorizzato se inserito in uno strumento non conforme.
• Delegare all’AI la verifica delle norme: l’AI ha una data di aggiornamento e può non conoscere modifiche normative recenti. Su testi di legge e circolari, la verifica sulle fonti ufficiali è sempre necessaria.
• Ignorare gli obblighi di trasparenza verso i cittadini: se l’ente usa un chatbot o genera contenuti con AI destinati al pubblico, il cittadino deve saperlo.
• Non documentare nulla: anche per usi a rischio minimo, tenere traccia di come viene usata l’AI tutela l’ufficio in caso di contestazioni future.
• Considerare la conformità come un problema solo dell’IT: le regole dell’AI Act e del GDPR riguardano chi usa gli strumenti, non solo chi li installa. Ogni funzionario che usa l’AI ha una responsabilità operativa.

Riferimenti normativi

• Regolamento UE 2024/1689 (AI Act) — EUR-Lex
• Regolamento UE 2016/679 (GDPR) — EUR-Lex
• Garante per la protezione dei dati personali — Intelligenza artificiale
• Commissione Europea — Ufficio AI (AI Office)
• AgID — Piano Triennale per l’Informatica nella PA 2024-2026
• Dipartimento per la Trasformazione Digitale — AI nella PA

FAQ

L’AI Act si applica già adesso alla PA italiana? In parte sì. Il divieto dei sistemi a rischio inaccettabile è operativo dal 2 febbraio 2025. Gli obblighi per i modelli AI per scopi generali (GPAI) sono applicabili dall’agosto 2025. La piena applicazione per i sistemi ad alto rischio è prevista per agosto 2026. Gli uffici PA devono già adeguarsi ai divieti e iniziare a prepararsi per le disposizioni sui sistemi ad alto rischio.

Un Comune che usa ChatGPT per scrivere comunicazioni viola l’AI Act? In genere no, se l’uso è interno e non coinvolge dati personali di cittadini. L’uso di AI generativa per la produttività degli uffici rientra nella categoria a rischio minimo, che non prevede obblighi specifici dell’AI Act. Rimangono però applicabili le regole del GDPR se vengono trattati dati personali.

Cosa rischia un ufficio PA che usa strumenti AI senza rispettare il GDPR? Le sanzioni del GDPR possono arrivare fino al 4% del fatturato annuo globale dell’organizzazione (o 20 milioni di euro, se superiore). Per gli enti pubblici, il Garante può comminare sanzioni amministrative e imporre misure correttive. Oltre alle sanzioni, c’è il rischio reputazionale e di contenzioso con i cittadini i cui dati sono stati trattati in modo non conforme.

È necessario nominare un responsabile AI nell’ente? L’AI Act non prevede una figura obbligatoria analoga al DPO (Data Protection Officer) del GDPR. Tuttavia, è buona prassi identificare un referente interno per l’AI, che coordini l’adozione degli strumenti, mantenga aggiornato il Manuale AI e faccia da punto di contatto per le questioni di conformità.

I fornitori di strumenti AI devono fornire documentazione di conformità? Sì, per i sistemi ad alto rischio. I fornitori sono tenuti a fornire documentazione tecnica, istruzioni d’uso e informazioni sulla conformità. La PA che adotta un sistema ad alto rischio deve verificare questa documentazione prima del deploy. Per i sistemi a rischio minimo, questa documentazione non è obbligatoria ma è comunque consigliabile richiederla nella fase di acquisto.

Il personale PA può usare l’AI personale (es. app sul telefono) per lavoro? Non è consigliabile per attività che riguardano dati dell’ente o dei cittadini. Le app consumer sul dispositivo personale non offrono garanzie GDPR adeguate. L’ente dovrebbe includere indicazioni esplicite su questo punto nel Manuale AI interno, definendo cosa è consentito e cosa non lo è anche nell’uso di dispositivi personali per attività lavorative.

Come si distingue un sistema AI “ad alto rischio” da uno “a rischio minimo” in pratica? La domanda chiave è: il sistema incide su decisioni che possono avere conseguenze significative per i diritti o gli interessi di persone fisiche? Se la risposta è sì — perché il sistema valuta candidati, gestisce l’accesso a servizi, produce output usati in procedimenti amministrativi — siamo nell’alto rischio. Se il sistema supporta la produttività interna senza incidere direttamente su decisioni relative a terzi, siamo nel rischio minimo.