Punti chiave
- L'articolo 15 del regolamento (UE) 2024/1689 chiede che i sistemi di IA ad alto rischio siano progettati e sviluppati per un adeguato livello di accuratezza, robustezza e cibersicurezza, mantenuto per tutto il ciclo di vita.
- Accuratezza: livelli e metriche vanno dichiarati nelle istruzioni per l'uso (paragrafo 3). Robustezza: resilienza a errori, guasti e incongruenze, anche con ridondanza, backup o fail-safe, e controllo dei circuiti di feedback (paragrafo 4).
- Cibersicurezza: resilienza ai tentativi di terzi non autorizzati e misure contro data poisoning, model poisoning, esempi antagonistici, attacchi alla riservatezza e difetti del modello (paragrafo 5).
- È un requisito del fornitore (articolo 16): si applica dal 2 dicembre 2027 per i sistemi dell'allegato III e dal 2 agosto 2028 per quelli dell'allegato I, come fissato dal regolamento (UE) 2026/1744.
- Per la sola cibersicurezza, i prodotti che rientrano nel Cyber Resilience Act sono considerati conformi all'articolo 15 se rispettano le condizioni dell'articolo 12, paragrafo 1, del regolamento (UE) 2024/2847; l'Omnibus ha riportato la regola nell'articolo 42, paragrafo 3, dell'AI Act.
- Al 3 novembre 2026 l'unica norma armonizzata con riferimento in Gazzetta per l'AI Act è la EN 18286:2026 sul sistema di gestione della qualità; la norma sulla cibersicurezza dei sistemi di IA, prEN 18282, è ancora un progetto.
L'articolo 15 dell'AI Act, il regolamento (UE) 2024/1689, chiede che i sistemi di IA ad alto rischio siano progettati per un adeguato livello di accuratezza, robustezza e cibersicurezza per tutto il ciclo di vita, anche contro attacchi specifici dell'IA come data poisoning ed esempi antagonistici. È un requisito del fornitore e si applica dal 2 dicembre 2027 (allegato III) o dal 2 agosto 2028 (allegato I).
Per chi usa sistemi di IA in azienda, l'articolo 15 conta per due ragioni: decide cosa pretendere dal fornitore, e si incrocia con il Cyber Resilience Act e con le norme armonizzate che CEN e CENELEC stanno scrivendo. Qui lo leggiamo paragrafo per paragrafo, sul testo consolidato al 27 luglio 2026, l'ultima versione pubblicata dal Publications Office dell'Unione.
Cosa dice l'articolo 15, paragrafo per paragrafo
L'articolo 15 chiude la sezione 2 del capo III, quella dei requisiti per i sistemi ad alto rischio (articoli da 8 a 15), ed è rimasto nel testo originale del 2024: il regolamento (UE) 2026/1744, l'Omnibus digitale sull'IA, non lo ha modificato.
Il principio (paragrafo 1)
I sistemi di IA ad alto rischio sono "progettati e sviluppati in modo tale da conseguire un adeguato livello di accuratezza, robustezza e cibersicurezza e da operare in modo coerente con tali aspetti durante tutto il loro ciclo di vita". Due parole pesano: adeguato, cioè proporzionato alla finalità e allo stato dell'arte (articolo 8), e ciclo di vita, cioè non basta un test al rilascio.
Come si misura (paragrafi 2 e 3)
Il paragrafo 2 affida alla Commissione il compito di incoraggiare, con le autorità di metrologia e di analisi comparativa, lo sviluppo di parametri di riferimento e metodologie di misurazione. Il paragrafo 3 è più concreto: i livelli di accuratezza e le relative metriche vanno dichiarati nelle istruzioni per l'uso. L'articolo 13, paragrafo 3, lettera b), punto ii), aggiunge che le istruzioni indicano anche il livello di robustezza e cibersicurezza rispetto al quale il sistema è stato provato e convalidato, e le circostanze note e prevedibili che possono incidere sul livello atteso.
Robustezza (paragrafo 4)
I sistemi devono essere "il più resilienti possibile per quanto riguarda errori, guasti o incongruenze" che nascono dentro il sistema o nell'ambiente in cui opera, in particolare nell'interazione con persone o altri sistemi. Servono misure tecniche e organizzative; la robustezza si può ottenere anche con ridondanza tecnica, per esempio piani di backup o fail-safe.
Per i sistemi che continuano ad apprendere dopo l'immissione sul mercato, il paragrafo chiede di eliminare o ridurre il rischio di circuiti di feedback, cioè output distorti che diventano input delle operazioni successive, con misure di attenuazione adeguate.
Cibersicurezza (paragrafo 5)
I sistemi ad alto rischio sono "resilienti ai tentativi di terzi non autorizzati di modificarne l'uso, gli output o le prestazioni sfruttando le vulnerabilità del sistema". Le misure tecniche devono essere adeguate alle circostanze e ai rischi. Per le vulnerabilità specifiche dell'IA il regolamento elenca, ove opportuno, misure per prevenire, accertare, rispondere, risolvere e controllare cinque famiglie di attacchi:
- data poisoning, la manipolazione del set di dati di addestramento;
- model poisoning, la manipolazione dei componenti preaddestrati usati nell'addestramento;
- adversarial examples o model evasion, input costruiti per far sbagliare il modello;
- attacchi alla riservatezza;
- difetti del modello.
Il considerando 76 completa il quadro: gli attacchi possono puntare sulle risorse proprie dell'IA o sulle vulnerabilità delle risorse digitali del sistema e dell'infrastruttura TIC sottostante, e i fornitori devono adottare controlli di sicurezza che tengano conto anche di quell'infrastruttura. Nella nostra lettura, quindi, la cibersicurezza dell'articolo 15 comprende sia la sicurezza classica (accessi, rete, cloud, aggiornamenti) sia quella del modello.
Chi deve rispettarlo: fornitore e deployer
L'articolo 15 è un requisito di prodotto. Chi lo deve garantire è il fornitore: l'articolo 16, lettera a), gli chiede di assicurare che il sistema sia conforme ai requisiti della sezione 2. La documentazione tecnica dell'allegato IV, punto 2, deve descrivere le metriche usate per misurare accuratezza e robustezza (lettera g) e "le misure di cibersicurezza poste in essere" (lettera h).
Il deployer, cioè l'azienda che usa il sistema, ha obblighi diversi (articolo 26): usarlo secondo le istruzioni (paragrafo 1), monitorarne il funzionamento sulla base delle istruzioni e informare il fornitore, e nei casi di rischio anche l'autorità di vigilanza (paragrafo 5), conservare i log sotto il suo controllo per almeno sei mesi, salvo norme diverse (paragrafo 6). Per gli istituti finanziari il monitoraggio si considera assolto rispettando le regole di governance interna della normativa di settore, e i log si conservano nella documentazione prevista da quella normativa.
Il confine si sposta in tre casi dell'articolo 25, paragrafo 1: chi mette il proprio nome o marchio su un sistema ad alto rischio, chi lo modifica in modo sostanziale e chi cambia la finalità di un sistema fino a renderlo ad alto rischio diventa fornitore, e l'articolo 15 diventa un suo obbligo. Come si stabilisce il ruolo, sistema per sistema, è spiegato nella guida su deployer e fornitore nell'AI Act.
Da quando si applica
L'articolo 15 segue la data del capo III, sezioni 1, 2 e 3, che l'Omnibus ha spostato (articolo 113, lettera c, nel testo consolidato):
- 2 dicembre 2027 per i sistemi ad alto rischio dell'allegato III, per esempio selezione del personale, merito di credito, infrastrutture critiche;
- 2 agosto 2028 per i sistemi che sono componenti di sicurezza di prodotti dell'allegato I, o sono essi stessi tali prodotti, come giocattoli, ascensori o dispositivi medici, soggetti a valutazione di terzi.
Per i sistemi già immessi sul mercato o messi in servizio prima di quelle date, il regolamento si applica ai loro operatori solo se da quel momento subiscono modifiche significative della progettazione (articolo 111, paragrafo 2, come riscritto dall'Omnibus); per i sistemi destinati alle autorità pubbliche il termine resta il 2 agosto 2030. Il calendario completo è nella guida su entrata in vigore e scadenze dell'AI Act.
Il collegamento con il Cyber Resilience Act
Il rinvio da conoscere è l'articolo 12 del Cyber Resilience Act, il regolamento (UE) 2024/2847, non l'articolo 12 dell'AI Act, che riguarda la conservazione delle registrazioni. Un prodotto con elementi digitali che rientra nel CRA ed è classificato come sistema di IA ad alto rischio è considerato conforme ai requisiti di cibersicurezza dell'articolo 15 se sono soddisfatte tre condizioni (articolo 12, paragrafo 1, del CRA):
- il prodotto soddisfa i requisiti essenziali di cibersicurezza dell'allegato I, parte I, del CRA;
- i processi del fabbricante soddisfano i requisiti dell'allegato I, parte II, cioè la gestione delle vulnerabilità;
- il livello di cibersicurezza richiesto dall'articolo 15 è dimostrato nella dichiarazione di conformità UE rilasciata a norma del CRA.
La presunzione copre solo la cibersicurezza: l'articolo 12 fa salvi i requisiti di accuratezza e robustezza, che restano dell'AI Act. La valutazione della conformità segue la procedura dell'articolo 43 dell'AI Act (paragrafo 2), con una deroga per i prodotti importanti e critici degli allegati III e IV del CRA che, come sistemi di IA, seguirebbero la procedura basata sul controllo interno: per i requisiti di cibersicurezza valgono le procedure del CRA (paragrafo 3).
L'Omnibus ha reso il legame visibile anche dal lato dell'AI Act: l'articolo 1, punto 18, del regolamento (UE) 2026/1744 ha aggiunto all'articolo 42 un paragrafo 3 che riprende la stessa presunzione, e il considerando 19 spiega che i due regolamenti si completano a vicenda. Accanto resta il paragrafo 2 dell'articolo 42: i sistemi certificati, o con una dichiarazione di conformità, nell'ambito di un sistema europeo di certificazione della cibersicurezza (regolamento (UE) 2019/881) si presumono conformi ai requisiti di cibersicurezza dell'articolo 15, nella misura in cui il certificato o la dichiarazione li coprono.
Le date dei due regolamenti si avvicinano: il CRA si applica in pieno dall'11 dicembre 2027 (articolo 71), nove giorni dopo l'alto rischio dell'allegato III; gli obblighi di segnalazione dell'articolo 14 del CRA valgono già dall'11 settembre 2026. Ambito e obblighi del CRA sono nella guida al Cyber Resilience Act.
Norme armonizzate: a che punto sono
Per l'articolo 40, paragrafo 1, chi rispetta una norma armonizzata il cui riferimento è pubblicato nella Gazzetta ufficiale dell'Unione si presume conforme ai requisiti che la norma copre. Per l'articolo 15 è il modo più semplice di dimostrare la conformità, ma la norma non c'è ancora.
- La richiesta. Con la decisione di esecuzione C(2025) 3871 del 23 giugno 2025, che ha abrogato la C(2023) 3215, la Commissione ha chiesto a CEN e CENELEC norme armonizzate sui requisiti dei sistemi ad alto rischio. Fra le aree elencate dalla Commissione ci sono accuratezza, robustezza e cibersicurezza.
- La prima norma pubblicata. La decisione di esecuzione (UE) 2026/2274 del 12 ottobre 2026, in Gazzetta il 14 ottobre, ha pubblicato il riferimento della EN 18286:2026, che riguarda il sistema di gestione della qualità dell'articolo 17, non l'articolo 15. Una ricerca sulla banca dati del Publications Office al 3 novembre 2026 non restituisce altre decisioni che pubblichino norme armonizzate per l'AI Act.
- La norma sulla cibersicurezza. Il progetto si chiama prEN 18282, Cybersecurity specifications for AI Systems, ed è seguito dal gruppo di lavoro 5 del comitato tecnico congiunto CEN/CLC/JTC 21, come risulta dalla scheda del progetto sul sito di DIN, l'ente di normazione tedesco. Finché il riferimento non è in Gazzetta, non dà presunzione di conformità.
Nel frattempo valgono gli strumenti già disponibili: la presunzione del CRA per chi vi rientra, la certificazione europea dove esiste, oppure una dimostrazione diretta nella documentazione tecnica. A determinate condizioni legate all'andamento della normazione, l'articolo 41 consente alla Commissione di adottare specifiche comuni con atti di esecuzione.
Cosa controllare in azienda
- Inventario e classificazione. Quali sistemi di IA usate o sviluppate, e quali ricadono nell'allegato I o III. L'articolo 15 riguarda solo quelli ad alto rischio.
- Ruolo per ogni sistema. Se un sistema ad alto rischio esce con il vostro marchio o lo avete modificato in modo sostanziale, l'articolo 15 è vostro.
- Cosa chiedere al fornitore. Istruzioni per l'uso con livelli e metriche di accuratezza, livello di robustezza e cibersicurezza provato, circostanze note e prevedibili che possono incidere su quei livelli; e, se il prodotto rientra nel CRA, la dichiarazione di conformità UE che copre l'articolo 15.
- Monitoraggio e log. Chi segue il funzionamento del sistema, dove finiscono i log, per quanto tempo restano (almeno sei mesi), chi avvisa il fornitore. Gli attacchi del paragrafo 5 si vedono negli output e nei dati: conviene che quei segnali arrivino a chi già monitora la sicurezza. Cosa controlla una piattaforma di sicurezza per i modelli in cloud è spiegato nella guida all'AI-SPM.
- Test sui rischi specifici dell'IA. Per chi sviluppa: prove con esempi antagonistici, controllo dell'origine di dati e modelli preaddestrati, gestione delle vulnerabilità del modello oltre che dell'infrastruttura.
Chi vuole tenere questi controlli dentro un sistema di gestione certificabile trova il riferimento nella certificazione ISO 42001, che però, non essendo una norma armonizzata, non dà da sola presunzione di conformità.
Sanzioni e autorità
L'articolo 15 non ha una sanzione propria: si sanziona il fornitore che non rispetta gli obblighi dell'articolo 16, fino a 15 000 000 EUR o, per le imprese, fino al 3 % del fatturato mondiale totale annuo dell'esercizio precedente, se superiore (articolo 99, paragrafo 4, lettera a). Nella stessa fascia rientrano gli obblighi del deployer dell'articolo 26 (lettera e).
In Italia il decreto legislativo 7 ottobre 2026, n. 179 riprende gli stessi massimali per gli articoli 16 e 26 (articolo 23, comma 2) e affida la vigilanza del mercato sui sistemi di IA all'ACN, con Banca d'Italia, CONSOB e IVASS per i sistemi ad alto rischio nei servizi bancari, finanziari e assicurativi (articolo 5); l'AgID è l'autorità di notifica degli organismi di valutazione della conformità (articolo 4). Il quadro completo di obblighi e sanzioni è nella guida all'AI Act.
In sintesi: l'articolo 15 chiede ai sistemi di IA ad alto rischio accuratezza dichiarata, robustezza a errori e guasti e resistenza agli attacchi, compresi quelli specifici dell'IA, per tutto il ciclo di vita. Lo garantisce il fornitore, dal 2 dicembre 2027 o dal 2 agosto 2028. Per la sola cibersicurezza il CRA offre una presunzione di conformità; la norma armonizzata dedicata è ancora un progetto.
Se volete capire quali dei vostri sistemi di IA rientrano nell'alto rischio e cosa chiedere ai fornitori sull'articolo 15, partite da una verifica con noi sull'AI Act.
