Articolo 10 AI Act: dati e governance dei dati

L'articolo 10 dell'AI Act chiede dati di addestramento, convalida e prova governati e di qualità: cosa dice, chi lo applica, date e il nuovo articolo 4 bis.

10 min di lettura
Articolo 10 AI Act: dati e governance dei dati

Punti chiave

  • L'articolo 10 del regolamento (UE) 2024/1689 chiede che i sistemi di IA ad alto rischio siano sviluppati su set di dati di addestramento, convalida e prova soggetti a pratiche di governance e con criteri di qualità definiti.
  • Le pratiche del paragrafo 2 coprono scelte progettuali, origine e finalità originaria dei dati, preparazione, ipotesi, adeguatezza dei set, esame e attenuazione delle distorsioni, lacune nei dati.
  • I set devono essere pertinenti, sufficientemente rappresentativi, il più possibile esenti da errori e completi, e tenere conto del contesto geografico, comportamentale e funzionale d'uso (paragrafi 3 e 4).
  • Il regolamento (UE) 2026/1744 ha soppresso il paragrafo 5: il trattamento eccezionale di categorie particolari di dati per correggere le distorsioni è ora nell'articolo 4 bis, esteso anche ai deployer e ai sistemi non ad alto rischio.
  • È un obbligo del fornitore (articolo 16), documentato nel sistema di gestione della qualità e nell'allegato IV; il deployer risponde dei dati di input che controlla (articolo 26, paragrafo 4).
  • Si applica dal 2 dicembre 2027 per i sistemi dell'allegato III e dal 2 agosto 2028 per quelli dell'allegato I (articolo 113 del testo consolidato).

L'articolo 10 dell'AI Act, il regolamento (UE) 2024/1689, chiede che i sistemi di IA ad alto rischio siano sviluppati su set di dati di addestramento, convalida e prova governati e di qualità: pratiche documentate su origine, preparazione e distorsioni dei dati, e set pertinenti, rappresentativi e il più possibile privi di errori. È un obbligo del fornitore e si applica dal 2 dicembre 2027 (allegato III) o dal 2 agosto 2028 (allegato I).

L'articolo è cambiato da poco. Il regolamento (UE) 2026/1744, l'Omnibus digitale sull'IA, in vigore dal 27 luglio 2026, ha riscritto i paragrafi 1 e 6 e ha soppresso il paragrafo 5, quello sui dati sensibili usati per correggere le distorsioni, spostandolo in un articolo nuovo, il 4 bis. Qui leggiamo l'articolo 10 sul testo consolidato al 27 luglio 2026, l'ultima versione pubblicata dal Publications Office dell'Unione, e vediamo cosa significa in pratica per chi sviluppa o compra un sistema di IA ad alto rischio.

Cosa dice l'articolo 10, paragrafo per paragrafo

L'articolo 10 si intitola "Dati e governance dei dati" e sta nella sezione 2 del capo III, quella dei requisiti per i sistemi ad alto rischio (articoli da 8 a 15), accanto a gestione dei rischi, documentazione tecnica, log, trasparenza, sorveglianza umana e cibersicurezza.

Su quali sistemi e su quali dati (paragrafi 1 e 6)

Il paragrafo 1 riguarda i sistemi ad alto rischio che addestrano modelli di IA con i dati: devono essere sviluppati su set di dati di addestramento, convalida e prova che rispettano i criteri di qualità dei paragrafi 2, 3 e 4 e dell'articolo 4 bis, paragrafo 1, ogni volta che quei set vengono usati. Il paragrafo 6 copre gli altri sistemi ad alto rischio, quelli che non addestrano modelli: per loro gli stessi criteri valgono solo sui set di dati di prova.

I tre tipi di dati sono definiti dall'articolo 3 (punti 29, 30 e 32):

  • dati di addestramento: servono ad addestrare il sistema adattandone i parametri che può apprendere;
  • dati di convalida: servono a valutare il sistema addestrato e a metterne a punto i parametri che non può apprendere, anche per evitare underfitting e overfitting;
  • dati di prova: servono a una valutazione indipendente che conferma le prestazioni attese prima dell'immissione sul mercato o della messa in servizio.

I dati di input, cioè quelli che il sistema riceve quando è in uso (articolo 3, punto 33), non sono nell'articolo 10: se ne occupa l'articolo 26 per il deployer, come vediamo più avanti.

Le pratiche di governance dei dati (paragrafo 2)

I set di dati di addestramento, convalida e prova sono soggetti a pratiche di governance e gestione adeguate alla finalità prevista del sistema. Il paragrafo 2 elenca cosa devono coprire, in particolare:

  1. le scelte progettuali pertinenti (lettera a);
  2. la raccolta e l'origine dei dati e, per i dati personali, la finalità originaria per cui erano stati raccolti (lettera b);
  3. la preparazione: annotazione, etichettatura, pulizia, aggiornamento, arricchimento e aggregazione (lettera c);
  4. le ipotesi su che cosa i dati dovrebbero misurare e rappresentare (lettera d);
  5. disponibilità, quantità e adeguatezza dei set di dati necessari (lettera e);
  6. l'esame delle possibili distorsioni che possono incidere su salute e sicurezza, avere un impatto negativo sui diritti fondamentali o portare a discriminazioni vietate dal diritto dell'Unione, specie quando gli output diventano input di operazioni successive (lettera f);
  7. le misure per individuare, prevenire e attenuare le distorsioni trovate (lettera g);
  8. le lacune o carenze nei dati che impediscono di rispettare il regolamento, e come colmarle (lettera h).

Nella nostra lettura il paragrafo 2 chiede un processo, non un risultato: il fornitore deve poter mostrare come ha scelto, preparato e controllato i dati, e perché quelle scelte sono adatte alla finalità del sistema.

La qualità dei set di dati (paragrafi 3 e 4)

Il paragrafo 3 fissa le caratteristiche dei set: devono essere "pertinenti, sufficientemente rappresentativi e, nella misura del possibile, esenti da errori e completi nell'ottica della finalità prevista". Devono avere le proprietà statistiche appropriate, anche rispetto alle persone o ai gruppi su cui il sistema verrà usato. Queste caratteristiche si possono soddisfare sul singolo set o su una combinazione di set.

Il paragrafo 4 aggiunge il contesto: i set tengono conto, per quanto serve alla finalità, delle caratteristiche dell'ambito geografico, contestuale, comportamentale o funzionale in cui il sistema sarà usato. Un modello di selezione del personale addestrato su candidature di un altro mercato, per esempio, va valutato anche su questo.

Il paragrafo 5 non c'è più: l'articolo 4 bis

Nel testo del 2024 il paragrafo 5 permetteva ai fornitori di sistemi ad alto rischio di trattare, in via eccezionale, categorie particolari di dati personali (quelle dell'articolo 9 del GDPR, per esempio i dati relativi alla salute o che rivelano l'origine etnica) quando è strettamente necessario per rilevare e correggere le distorsioni delle lettere f e g. L'Omnibus lo ha soppresso (articolo 1, punto 9, del regolamento (UE) 2026/1744) e ha portato la stessa regola nel nuovo articolo 4 bis, che il paragrafo 1 dell'articolo 10 ora richiama.

Le condizioni per i fornitori (articolo 4 bis, paragrafo 1)

Il trattamento è ammesso solo nella misura strettamente necessaria, con tutele adeguate per i diritti delle persone, e oltre al GDPR devono valere tutte queste condizioni:

  • le distorsioni non si possono rilevare e correggere in modo efficace con altri dati, compresi quelli sintetici o anonimizzati;
  • sui dati ci sono limiti tecnici al riutilizzo e misure di sicurezza e riservatezza avanzate, compresa la pseudonimizzazione;
  • gli accessi sono controllati e documentati, e riservati a persone autorizzate con obblighi di riservatezza;
  • i dati non sono trasmessi, trasferiti o consultati da terzi;
  • i dati si cancellano quando la distorsione è corretta o alla fine del periodo di conservazione, se arriva prima;
  • il registro dei trattamenti spiega perché quei dati erano strettamente necessari e perché altri dati non bastavano.

Cosa è cambiato davvero (articolo 4 bis, paragrafo 2)

Le condizioni sono le stesse del vecchio paragrafo 5. La novità è il perimetro: il paragrafo 2 estende la possibilità ai fornitori e ai deployer di altri sistemi e modelli di IA e ai deployer di sistemi ad alto rischio, sempre nella misura strettamente necessaria e con tutte le garanzie del paragrafo 1. Per questi soggetti è una facoltà, non un dovere: "Il presente paragrafo non crea alcun obbligo di rilevare e correggere tali distorsioni."

Il considerando 9 dell'Omnibus spiega il perché: le distorsioni possono nascere anche dall'uso che ne fa il deployer e da sistemi non classificati ad alto rischio, e la base giuridica deve valere anche prima delle date dell'alto rischio, così che i fornitori possano lavorare sulle distorsioni mentre si preparano. L'articolo 4 bis sta nel capo I, quindi non aspetta il 2027.

Resta fermo il rapporto con il GDPR: l'articolo 2, paragrafo 7, dell'AI Act lascia impregiudicata la normativa sulla protezione dei dati, salvo gli articoli 4 bis e 59. Servono comunque una base giuridica del GDPR e il rispetto dei suoi obblighi. Come si incastrano i due regolamenti è spiegato nella guida su AI Act e GDPR.

Chi lo deve rispettare: fornitore e deployer

L'articolo 10 è un requisito di prodotto, e lo garantisce il fornitore: l'articolo 16, lettera a), gli chiede di assicurare che il sistema sia conforme ai requisiti della sezione 2. Due altri punti del regolamento dicono dove deve stare la prova:

  • il sistema di gestione della qualità dell'articolo 17, paragrafo 1, lettera f), comprende i sistemi e le procedure per la gestione dei dati: acquisizione, raccolta, analisi, etichettatura, archiviazione, filtrazione, estrazione, aggregazione, conservazione e ogni altra operazione sui dati fatta prima dell'immissione sul mercato;
  • la documentazione tecnica dell'allegato IV, punto 2, lettera d), descrive, ove pertinente, i requisiti in materia di dati con schede tecniche: metodologie e tecniche di addestramento, set di dati usati, loro origine, ambito e caratteristiche principali, modalità di selezione, procedure di etichettatura e metodi di pulizia.

Il deployer, cioè l'azienda che usa il sistema, non risponde dei dati di addestramento. Risponde dei dati di input quando li controlla: per l'articolo 26, paragrafo 4, deve fare in modo che siano pertinenti e sufficientemente rappresentativi rispetto alla finalità prevista. Gli altri obblighi del deployer sono nella guida all'articolo 26 dell'AI Act.

Il confine si sposta nei casi dell'articolo 25: chi mette il proprio marchio su un sistema ad alto rischio, lo modifica in modo sostanziale o ne cambia la finalità fino a renderlo ad alto rischio diventa fornitore, e l'articolo 10 diventa suo. Succede, per esempio, a chi riaddestra un modello acquistato sui propri dati per un uso che rientra nell'allegato III: in quel caso conviene verificare caso per caso se la modifica è sostanziale.

Da quando si applica

L'articolo 10 segue la data del capo III, sezioni 1, 2 e 3, che l'Omnibus ha spostato (articolo 113, lettera c, nel testo consolidato):

  • 2 dicembre 2027 per i sistemi ad alto rischio dell'allegato III, per esempio selezione del personale, valutazione del merito di credito, accesso a servizi essenziali;
  • 2 agosto 2028 per i sistemi ad alto rischio dell'allegato I, cioè componenti di sicurezza di un prodotto, o prodotti essi stessi, disciplinati dalla normativa di armonizzazione dell'Unione dell'allegato I e soggetti a una valutazione della conformità da parte di terzi (articolo 6, paragrafo 1).

Nella nostra lettura le date valgono per i sistemi, non per i dataset: un set raccolto oggi e usato per addestrare un sistema immesso sul mercato dopo il 2 dicembre 2027 deve rispettare l'articolo 10. Per questo la documentazione di origine, preparazione e controllo delle distorsioni conviene impostarla adesso, mentre i dati si raccolgono. Il calendario completo è nella guida su entrata in vigore e scadenze dell'AI Act; se un sistema sia o no ad alto rischio lo spiega la guida ai livelli di rischio dell'AI Act.

Norme armonizzate sui dati: a che punto sono

Per l'articolo 40, chi applica una norma armonizzata il cui riferimento è pubblicato nella Gazzetta ufficiale dell'Unione si presume conforme ai requisiti che la norma copre. La Commissione ha chiesto a CEN e CENELEC norme su dieci aree, e una di queste è la governance e la qualità dei set di dati (pagina della Commissione sulla normazione dell'AI Act, aggiornata al 19 ottobre 2026).

Al 12 novembre 2026 l'unico riferimento pubblicato per l'AI Act è la EN 18286:2026 sul sistema di gestione della qualità (decisione di esecuzione (UE) 2026/2274): una ricerca sulla banca dati del Publications Office non restituisce altre decisioni di questo tipo dal settembre 2026. Per l'articolo 10, quindi, oggi la conformità si dimostra direttamente, con le pratiche e le schede tecniche descritte sopra.

Cosa preparare in azienda

  1. Inventario. Quali sistemi di IA sviluppate o usate, quali sono ad alto rischio, e per ciascuno quali set di dati sono stati usati per addestramento, convalida e prova.
  2. Scheda per ogni set di dati. Origine, finalità della raccolta se ci sono dati personali, operazioni di preparazione, ipotesi, limiti noti: è la base della lettera d) dell'allegato IV.
  3. Esame delle distorsioni. Un controllo documentato delle lettere f) e g), con le misure prese e chi le ha decise. Se servono dati sensibili, le sei condizioni dell'articolo 4 bis e la motivazione nel registro dei trattamenti.
  4. Controllo degli accessi ai dati. Chi può leggere e modificare i dataset, con quali log, dove sono conservati. È lo stesso lavoro che serve per la cibersicurezza dell'articolo 15, dove il data poisoning è uno degli attacchi da prevenire.
  5. Cosa chiedere al fornitore. Se comprate un sistema ad alto rischio: una descrizione dei dati usati e delle verifiche sulle distorsioni, e indicazioni su quali dati di input sono adatti alla finalità, visto che quelli diventano vostri.

Chi vuole tenere questi controlli dentro un sistema di gestione certificabile trova il riferimento nella certificazione ISO 42001, che però non è una norma armonizzata dell'AI Act e da sola non dà presunzione di conformità.

Sanzioni

L'articolo 10 non ha una sanzione propria: si sanziona il fornitore che non rispetta gli obblighi dell'articolo 16, fino a 15 000 000 EUR o, per le imprese, fino al 3 % del fatturato mondiale totale annuo dell'esercizio precedente, se superiore (articolo 99, paragrafo 4, lettera a). Il quadro completo di obblighi, autorità e sanzioni è nella guida all'AI Act.

In sintesi: l'articolo 10 chiede al fornitore di un sistema di IA ad alto rischio dati di addestramento, convalida e prova governati (origine, preparazione, ipotesi, distorsioni, lacune) e di qualità (pertinenti, rappresentativi, il più possibile senza errori, adatti al contesto d'uso). Dal 27 luglio 2026 il trattamento di dati sensibili per correggere le distorsioni sta nell'articolo 4 bis, esteso anche ai deployer. L'obbligo vale dal 2 dicembre 2027 per l'allegato III.

Se volete capire quali dei vostri sistemi di IA rientrano nell'alto rischio e come impostare la governance dei dati prima del 2027, partite da una verifica con noi sull'AI Act.

Domande frequenti

Chiede che i sistemi di IA ad alto rischio siano sviluppati su set di dati di addestramento, convalida e prova gestiti con pratiche documentate (scelte progettuali, origine e finalità originaria dei dati, preparazione, ipotesi, esame e attenuazione delle distorsioni, lacune) e che i set siano pertinenti, sufficientemente rappresentativi, il più possibile esenti da errori e completi rispetto alla finalità prevista e al contesto d'uso. È un obbligo del fornitore.
Dal 2 dicembre 2027 per i sistemi ad alto rischio dell'allegato III e dal 2 agosto 2028 per quelli dell'allegato I, secondo l'articolo 113, lettera c, come modificato dal regolamento (UE) 2026/1744. L'articolo 4 bis sui dati sensibili per correggere le distorsioni sta invece nel capo I ed è in vigore dal 27 luglio 2026.
Il regolamento (UE) 2026/1744 lo ha soppresso e ne ha portato il contenuto nel nuovo articolo 4 bis. Le condizioni per trattare categorie particolari di dati personali al fine di rilevare e correggere le distorsioni sono le stesse; la novità è che il paragrafo 2 dell'articolo 4 bis estende la possibilità ai deployer di sistemi ad alto rischio e a fornitori e deployer di altri sistemi e modelli di IA, senza crearne un obbligo.
No, l'articolo 10 è un requisito del fornitore (articolo 16, lettera a). Il deployer risponde dei dati di input quando li controlla: per l'articolo 26, paragrafo 4, devono essere pertinenti e sufficientemente rappresentativi rispetto alla finalità prevista. Diventa fornitore, e quindi responsabile anche dell'articolo 10, nei casi dell'articolo 25, per esempio se modifica in modo sostanziale un sistema ad alto rischio.
Non ancora. La Commissione ha chiesto a CEN e CENELEC norme anche sulla governance e la qualità dei set di dati, ma al 12 novembre 2026 l'unico riferimento pubblicato in Gazzetta per l'AI Act è la EN 18286:2026 sul sistema di gestione della qualità (decisione di esecuzione (UE) 2026/2274). Per l'articolo 10 la conformità si dimostra direttamente nella documentazione tecnica.

Parliamo della tua sicurezza.

Una call di 30 minuti per capire la tua postura attuale e dirti, senza impegno, dove conviene intervenire prima.

Prenota una call
LinkedIn

Level 4, 266 Triq ix-Xatt, GZR1020, Gzira, Malta · Via Brera 16, 20121, Milano, Italia · C.F., P. IVA e n. iscrizione Registro Imprese di Milano Monza Brianza Lodi: 14438530967 - REA MI-2783721 · AMAGISTECH ITALIA S.R.L.

LinkedIn

Level 4, 266 Triq ix-Xatt, GZR1020, Gzira, Malta · Via Brera 16, 20121, Milano, Italia · C.F., P. IVA e n. iscrizione Registro Imprese di Milano Monza Brianza Lodi: 14438530967 - REA MI-2783721 · AMAGISTECH ITALIA S.R.L.

LinkedIn

Level 4, 266 Triq ix-Xatt, GZR1020, Gzira, Malta · Via Brera 16, 20121, Milano, Italia · C.F., P. IVA e n. iscrizione Registro Imprese di Milano Monza Brianza Lodi: 14438530967 - REA MI-2783721 · AMAGISTECH ITALIA S.R.L.