Principi di Intelligenza Artificiale — scheda di studio — TiConsiglio

1. Perimetro della materia e cosa aspettarsi in banca dati

Il concorso per Assistente Informatico INPS richiede una conoscenza operativa dell’IA nella Pubblica Amministrazione. Nei quiz compaiono domande a risposta chiusa su definizioni, classificazioni, obblighi normativi e casi d’uso tipici (assistenti virtuali, analisi predittiva di frodi, gestione documentale). È necessario collegare teoria del machine learning a scenari pratici e individuare le responsabilità previste da AI Act e GDPR per il trattamento di dati personali.

Tipi di apprendimento: supervisionato, non supervisionato, per rinforzo;
Modelli: deep learning vs algoritmi tradizionali;
Livelli di rischio IA (basso‑medio‑alto) e relative prescrizioni;
Principi etici: trasparenza, non discriminazione, spiegabilità;
Riferimenti normativi: d.lgs. 33/2013 (trasparenza) e d.lgs. 82/2005 (CAD).

2. Concetti fondamentali di intelligenza artificiale e machine learning

2.1 Definizioni di base

L’IA comprende metodologie che consentono a una macchina di svolgere compiti tipicamente umani (riconoscimento pattern, ragionamento, apprendimento). Il machine learning è la sotto‑area che usa algoritmi in grado di migliorare dalle esperienze.

2.2 Tipi di apprendimento

Supervisionato: addestramento su dati etichettati (es. classificazione richieste “urgenti”).
Non supervisionato: scoperta di strutture nascoste (es. clustering di documenti).
Per rinforzo: agente che massimizza ricompense interagendo con l’ambiente (es. ottimizzazione percorsi sportelli).

2.3 Reti neurali e deep learning

Le reti neurali sono composte da neuroni organizzati in strati; il deep learning utilizza architetture profonde per compiti complessi (immagini, testo). Nella PA le CNN analizzano documenti scansionati, mentre RNN/Transformer trattano testi normativi.

2.4 IA generativa e LLM

I Large Language Model (LLM) sono Transformer addestrati su grandi corpora testuali. Nella PA troviamo impieghi in:

chatbot per il cittadino;
redazione automatica di verbali;
ricerca normativa mediante query in linguaggio naturale.

Distinguere uso interno (supporto al personale) da uso esterno (servizi al pubblico) è fondamentale per i requisiti di trasparenza e protezione dati.

3.1 AI Act (Regolamento UE 2024/1689)

L’AI Act suddivide i sistemi IA in quattro livelli di rischio:

Inaccettabile: vietato (es. sorveglianza biometrica massiva);
Alto: registro UE, valutazione di conformità, obblighi di trasparenza e monitoraggio (es. valutazione crediti, benefici sociali);
Limitato: informare l’utente (es. chatbot);
Minimo: nessun obbligo specifico.

Per la PA, i sistemi che influenzano decisioni amministrative rientrano quasi sempre nella categoria “alto rischio”.

Il GDPR si applica a tutti i trattamenti di dati personali, anche tramite IA. I punti critici sono:

Liceità, correttezza e trasparenza;
DPIA obbligatoria per IA ad alto rischio;
Diritti degli interessati (accesso, rettifica, cancellazione, opposizione);
Responsabilità del titolare (misure tecniche, anonimizzazione, pseudonimizzazione).

3.3 Codice dell’Amministrazione Digitale (CAD) – d.lgs. 82/2005

Il CAD impone:

standard aperti per l’interoperabilità;
certificazione di sicurezza (ISO 27001, AgID‑CERT);
accessibilità dei servizi (WCAG).

3.4 Linee guida AgID/Dipartimento Trasformazione Digitale

Le linee guida indicano:

piani di gestione del rischio IA (identificazione, mitigazione);
governance (comitati etici, “AI Officer”);
documentazione tecnica (dataset, metriche, log);
verifica di conformità con GDPR e AI Act prima del go‑live.

4. Etica, rischi e criticità dell’IA (bias, allucinazioni, spiegabilità, supervisione umana)

4.1 Trasparenza e spiegabilità

Le norme richiedono che l’utente comprenda le ragioni di una decisione automatizzata. Tecniche XAI (es. LIME, SHAP) forniscono:

variabili più influenti;
punteggio di fiducia;
possibilità di contestazione.

4.2 Bias e discriminazione

I bias nascono da dati storicamente parziali. Nella PA è necessario:

analisi di fairness (parità di trattamento, equal opportunity);
monitoraggio su gruppi protetti;
re‑balancing o tecniche di debiasing.

4.3 Allucinazioni dei modelli generativi

Gli LLM possono produrre informazioni non verificate. Le contromisure includono:

validazione umana prima della pubblicazione;
modelli “retrieval‑augmented” con fonti ufficiali;
policy di responsabilità per i contenuti generati.

4.4 Sicurezza informatica dei sistemi IA

I sistemi IA sono vulnerabili a avvelenamento dei dati e attacchi adversarial. La PA deve:

controllare l’integrità dei dataset;
testare la robustezza contro input manipolati;
aggiornare periodicamente modelli e patch.

4.5 Supervisione umana e accountability

Il “human‑in‑the‑loop” è obbligatorio per decisioni che incidono sui diritti dei cittadini. Si richiede:

ruoli di supervisione (responsabile IA, data steward);
documentazione delle revisioni;
registro delle decisioni automatizzate per audit.

5. Collegamenti con le altre materie del concorso

Sicurezza informatica: vulnerabilità IA, crittografia dei dati di training, continuità operativa.
Reti e sistemi: integrazione IA in architetture a micro‑servizi, API RESTful.
Database: data lake per training set, anonimizzazione, versionamento.
Linguaggi di programmazione: Python (TensorFlow, PyTorch), R, Java per pipeline ML.
Trasparenza e anticorruzione (d.lgs. 33/2013, L. 190/2012): pubblicazione criteri IA, audit trail.
Ordinamento del lavoro pubblico (d.lgs. 165/2001): responsabilità del dirigente, imparzialità.
Diritto amministrativo (L. 241/90, art. 97 Cost.): accesso al procedimento, motivazione decisioni automatizzate.

6. Errori tipici e trappole d’esame

Confondere apprendimento supervisionato e non supervisionato.
Attribuire al deep learning la capacità di spiegare senza XAI.
Non distinguere i tre livelli di rischio AI Act (alto, medio, basso).
Ignorare la DPIA per IA ad alto rischio anche con dati non sensibili.
Pensare che l’AI Act riguardi solo il settore privato.
Dimenticare l’obbligo di “AI Officer” nelle linee guida AgID.
Tralasciare il rischio di bias da dataset non bilanciati.

7. Checklist di ripasso finale

Definire machine learning e i tre tipi di apprendimento.
Elencare componenti di una rete neurale e differenze shallow‑vs‑deep.
Descrivere funzionalità tipiche degli LLM e casi d’uso nella PA.
Indicare i quattro livelli di rischio AI Act e obblighi per alto rischio.
Riassumere obblighi GDPR per IA (DPIA, diritti, trasparenza).
Citare le disposizioni CAD rilevanti (interoperabilità, sicurezza, accessibilità).
Riconoscere le linee guida AgID su governance, rischio e documentazione.
Elencare le questioni etiche: trasparenza, non discriminazione, spiegabilità, supervisione.
Identificare i rischi tecnici: bias, allucinazioni, avvelenamento, vulnerabilità adversarial.
Collegare IA a sicurezza, reti, database, programmazione e normativa anticorruzione.
Verificare le trappole più comuni: confusione tipi di apprendimento, omissione DPIA, errata classificazione rischio.