Decreto160: intelligenza artificiale ad alto rischio e nuova “insidiosa” fattispecie penale

Il Decreto Legislativo n. 160 del 2026, la cui entrata in vigore è fissata a partire dal prossimo 30 settembre 2026, introduce la nuova fattispecie di reato di cui  all’ art. 437-bis del codice penale; essa rappresenta uno dei primi tentativi di presidiare penalmente i rischi derivanti dall’impiego di sistemi di intelligenza artificiale potenzialmente in grado di incidere, a titolo di pericolo concreto, sulla sicurezza delle persone e delle infrastrutture. Il contributo dell’avvocato Domenico Vozza, Senior Security Manager e Compliance Expert, focalizza il delicato coordinamento tra disciplina nazionale e AI Act, suggerendo alle organizzazioni destinatarie della normativa di settore di non attendere le future scadenze regolatorie europee per avviare adeguati percorsi di governance, gestione del rischio e sorveglianza umana. Ne deriva, dunque, una lettura prudenziale della nuova norma penale, con approccio alla prevenzione e alla costruzione di efficaci presidi tecnici e organizzativi. (ndr)

IL DECRETO160: INTELLIGENZA ARTIFICIALE AD ALTO RISCHIO E NUOVA “INSIDIOSA” FATTISPECIE PENALE 

di Domenico Vozza

Si attendeva ormai da tempo la pubblicazione del Decreto di adeguamento della normativa nazionale alle disposizioni del Regolamento (UE) 2024/1689 (AI Act), approvato in via definitiva lo scorso 4 agosto dal Consiglio dei Ministri.

Il 15 settembre u.s. tale pubblicazione è avvenuta, in Gazzetta Ufficiale, con il Decreto Legislativo n.160, introducendo nel sistema giuridico italiano novità interessanti rivolte a imprese, pubbliche amministrazioni e professionisti che, nel loro agire quotidiano, già fanno uso o sono in procinto di utilizzare sistemi di intelligenza artificiale.

In questo mio contributo mi riferisco e focalizzo l’attenzione, in particolare, alla nuova fattispecie penalmente rilevante di cui all’art. 437-bis del codice penale che disciplinerà (dal 30 settembre 2026) l’omessa adozione di misure di sicurezza¹ nei sistemi di intelligenza artificiale ad alto rischio² e/o la loro alterazione illecita, piuttosto che la previsione di adozione della sorveglianza umana³.

Ed è proprio questo sfasamento temporale tra l’entrata in vigore della normativa nazionale, avvenuta prima della vigenza del Regolamento UE cit. – che per i sistemi IA ad alto rischio avrà efficacia dal 2 dicembre 2027 – a creare non pochi problemi applicativi e interpretativi, costituendo un pericolo per la corretta individuazione di responsabilità e sanzioni in capo ai potenziali contravventori.

Pertanto, richiamando una celebre frase di un noto giornalista e conduttore televisivo, “la domanda sorge spontanea”: è opportuno attendere la piena applicazione e vigenza degli obblighi di cui alla normativa europea, oppure è invece consigliabile e vivamente auspicabile avviare, nel più breve tempo possibile, un percorso efficace e concreto di adeguamento organizzativo?

Una norma penale da non sottovalutare

Costituendo la nuova fattispecie di reato il pilastro nei presidi di tutela applicabili ai sistemi IA ad alto rischio (e non ad alto rischio, per le considerazioni riportate in seguito), occorre da subito sgombrare il campo da un possibile equivoco: tale fattispecie non vieta affatto l’utilizzo dei sistemi di intelligenza artificiale, ancorché ad alto rischio, piuttosto, appare orientata a presidiare situazioni nelle quali l’impiego di tali sistemi (nativamente o per sviluppo e impiego effettivo) possa determinare un pericolo concreto⁴ verso beni di inconfutabile valore quali la vita, l’incolumità delle persone, l’incolumità pubblica o la sicurezza dello Stato.

Da ciò deriva che, già da subito, non si deve assolutamente sottovalutare, ad esempio, il ruolo della sorveglianza umana nelle organizzazioni destinatarie di tale normativa, evitando pericolose semplificazioni nel ritenerla una mera presenza formale di un incaricato con il compito di monitorare, semplicemente, il regolare funzionamento del sistema.  Al contrario, proprio la sua natura di misura di sicurezza deve orientare i decisori di un’entità a destinare a tale ruolo un professionista esperto “multidisciplinare”, singolo o organizzato in  team – a seconda delle dimensioni dell’entità stessa in cui dovrà operare e della complessità delle materie da trattare. Tale professionista dovrà essere  capace di adottare  decisioni volte a porre in essere attività di verifica, di correzione, ovvero di arresto del funzionamento di sistemi IA potenzialmente pericolosi nel produrre risultati pericolosi o dannosi per l’incolumità di persone e/o infrastrutture.

Quale esempio concreto di “sorveglianza umana” può essere citato il seguente: per individuare potenziali frodi idriche, una multiutility utilizza un sistema di intelligenza artificiale, mediante il quale vengono segnalati trenta casi di anomalie nei consumi idrici tali da far supporre a possibili frodi. In questa situazione, un presidio di sorveglianza umana sarà tale da non demandare ad un algoritmo la decisione finale nell’avvio di azioni di recupero credito, denuncia e limitazione della risorsa idrica nei confronti degli utenti segnalati. Dovrà essere un operatore umano a verificare i risultati derivanti dal processo di analisi dell’algoritmo,  confrontandoli con i dati storici, effettuando sopralluoghi e controllando eventuali guasti tecnici, prima della decisione di competenza. Nel caso esaminato, il sistema IA rappresenta un validissimo strumento di supporto nell’analisi dei casi di anomalia dei consumi, consentendo un’efficiente ed efficace azione di prevenzione e contrasto di possibili pratiche fraudolente, riducendo drasticamente tempi di individuazione delle potenziali frodi e impiegando il personale in azioni mirate di recupero.

AI Act e art. 437-bis c.p. 

Dalla constatazione che l’AI Act disciplina in modo armonizzato i requisiti di tutti i sistemi di IA (ad alto rischio e non), vietandone alcuni che presentano un rischio inaccettabile per l’incolumità  dell’individuo e per il regolare funzionamento di infrastrutture, ne deriva che le regole sui sistemi di IA ad alto rischio costituiscono il principale riferimento per individuare, sul piano tecnico-organizzativo, quali misure di gestione del rischio, documentazione, accuratezza, robustezza, cybersecurity e sorveglianza umana debbano essere considerate rilevanti. Sul piano nazionale, invece, il D.Lgs. 9 settembre 2026, n. 160 interviene introducendo una specifica fattispecie penale – l’art. 437-bis c.p. cit. – destinata a presidiare penalmente l’omessa adozione di misure di sicurezza nei sistemi di intelligenza artificiale ad alto rischio e la loro alterazione illecita⁵.

Ne deriva che, dal 30 settembre 2026, l’art. 437-bis c.p. potrà trovare applicazione non perché tutti gli obblighi dell’AI Act siano già integralmente operativi in ogni loro parte, ma in quanto ricorrano i presupposti tipici della norma penale nazionale; dunque, l’omissione di misure tecniche di sicurezza o di misure di sorveglianza umana dovute in relazione a quel sistema; la derivazione, da tale omissione, di un pericolo concreto per la vita, l’incolumità individuale o pubblica, oppure per la sicurezza dello Stato.

Tali  le ragioni per le quali i giudici – pur nel rispetto della tassatività della norma penale al caso concreto – potrebbero applicare la nuova disposizione già dal prossimo 30 settembre nei casi in cui il sistema utilizzato rientri con ragionevole sufficiente chiarezza nell’ambito dei sistemi ad alto rischio e l’omissione sia riferita a presidi essenziali di sicurezza o di controllo umano.

Una decisione automatizzata o un malfunzionamento di sistemi IA che impatti  sulla sicurezza fisica delle persone, sull’accesso a servizi essenziali, sulla gestione di infrastrutture critiche, su dispositivi o componenti soggetti a normativa di sicurezza di prodotto ovvero con riferimento ad attività nelle quali il controllo umano rappresenti un necessario e adeguato presidio preventivo rispetto a eventi di pericolo o di danno, potranno dunque costituire presupposti di applicazione della normativa nazionale. Le deduzioni finora esposte danno vigore altresì alla qualificazione dei sistemi di IA non qualificabili come ad alto rischio⁶. Per essi, l’omissione di misure di sicurezza o di sorveglianza umana non dovrebbe, di per sé sola, integrare automaticamente il nuovo reato, salvo che il sistema possa essere riqualificato come ad alto rischio alla luce della sua concreta destinazione d’uso, del contesto applicativo o dell’integrazione in prodotti, servizi o processi che incidono su salute, sicurezza o diritti fondamentali; in altri termini, un sistema non è “non ad alto rischio” solo per l’etichetta applicata dal fornitore che  lo presenta e commercializza come tale.

Occorre sempre verificare l’uso concreto, il settore, il livello di autonomia decisionale, il possibile impatto su persone o infrastrutture e l’eventuale integrazione in processi sensibili.

Comunque sia, la medesima condotta potrebbe assumere rilievo sotto altri profili di responsabilità, civili, amministrativi, organizzativi o penali, qualora provochi danni, violi obblighi di sicurezza già esistenti o si inserisca in attività pericolose o in trattamenti di dati personali non conformi alla normative privacy europea e nazionale.

In definitiva, quantunque l’art. 437-bis c.p. non fosse immediatamente applicabile per difetto della qualificazione del sistema come ad alto rischio o per mancanza del pericolo concreto richiesto, potrebbero comunque assumere rilievo altre norme europee e nazionali.

Le conseguenze 

La conseguenza pratica è di particolare interesse e di rilievo non trascurabile: anche in tale fase transitoria e di applicazione progressiva della norma europea, i soggetti destinatari della normativa de quo non dovrebbero limitarsi a verificare se una singola scadenza europea sia già pienamente operativa, ma dovrebbero mettere in atto misure “basilari” volte  a una mappatura immediata dei sistemi di IA utilizzati, alla classificazione del relativo livello di rischio, alla documentazione delle misure tecniche e organizzative adottate e alla definizione di forme effettive di sorveglianza umana individuando, in particolare, ruoli, responsabilità, poteri di intervento, procedure di escalation e registri delle verifiche effettuate.

Conclusioni 

Avviandomi alla conclusione, ritengo doveroso e utile evidenziare come l’introduzione del nuovo art. 437-bis c.p. rappresenti, senza dubbio, un primo tentativo del legislatore nazionale di introdurre nel nostro ordinamento giuridico una norma caratterizzata da significativa severità che, prim’ancora del danno, responsabilizza tutta la filiera dell’intelligenza artificiale a governare i rischi e il possibile conseguente pericolo concreto da danni che tali sistemi sono potenzialmente capaci di produrre se non “sorvegliati”.

È necessario comunque attendere la prossima futura attività interpretativa della dottrina e della giurisprudenza che servirà a orientare i destinatari della norma a definirne compiutamente i confini applicativi.

È in base a tale ultima considerazione che suggerisco un approccio responsabile e prudente, evitando inutili attese alle prossime scadenze regolatorie, mettendo in atto, da subito, un graduale percorso di adeguamento – in particolare, dal lato organizzativo – volto a integrare la gestione dei rischi connessi all’intelligenza artificiale all’interno dei sistemi di controllo e compliance già presenti nelle organizzazioni.

Un’attesa di poco meno di quindici mesi dalla piena vigenza dell’AI Act, costituirebbe una criticità rilevante nel potersi dichiarare pronti e competitivi sul mercato e, soprattutto, compliant alle diverse Autorità amministrative e giudiziarie coinvolte nel verificare il rispetto normativo delle norme europee e nazionali in via di emanazione o già vigenti.

1. Rinviando ad altra sede una disamina accurata concernente le misure di sicurezza, mi limito a richiamare le fonti normative e le principali di esse. AI Act (Regolamento UE 2024/1689), GDPR, Direttiva NIS2 e normativa sulla cybersicurezza, Cyber Resilience Act (CRA) per prodotti digitali con a bordo software applicativo,  Data Act e Data Governance Act, Codice Privacy, D.Lgs. 65/2018, Provvedimenti del Garante Privacy, Standard tecnici internazionali ISO/IEC 42001, ISO 27001, ISO 23894, ISO 31000, ISO 27701(tra i principali). Tra le misure basilari che un’organizzazione utilizzatrice di sistemi IA dovrebbe, in ogni caso, già predisporre, ritroviamo: registro dei sistemi IA, classificazione del rischio, AI Risk Assessment, AI Policy aziendale, controllo degli accessi, autenticazione multifattore, logging e audit trail, crittografia dei dati, data governance e controllo bias, sorveglianza umana documentata, procedure di validazione dei risultati, gestione vulnerabilità e patching, incident response AI, monitoraggio continuo delle prestazioni, audit periodico tecnico-legale. ↩︎
2. Trattasi di sistemi che, per settore di impiego o funzione svolta, possono incidere in modo significativo su salute, sicurezza o diritti fondamentali. ↩︎
3. Per sorveglianza umana si intende:  controlli umani effettivi, procedure di arresto o intervento, monitoraggio degli output, tracciabilità delle decisioni, tali da  prevenire, intercettare o contenere un rischio grave. ↩︎
4. Pericolo concreto quale rischio effettivo e verificabile, non una possibilità astratta o meramente teorica. ↩︎
5. Si fa riferimento alla modifica non autorizzata o manipolativa dei presidi di sicurezza del sistema. ↩︎
6. Per sistemi di IA non ad alto rischio possono intendersi, in linea generale, quei sistemi che non rientrano nelle categorie ad alto rischio individuate dall’AI Act e che sono impiegati per finalità meramente ausiliarie, informative, organizzative o di produttività, senza produrre effetti giuridici o impatti significativi su salute, sicurezza, diritti fondamentali o accesso a servizi essenziali. Rientrano in questa categoria, a titolo esemplificativo, chatbot informativi generici, strumenti di traduzione o sintesi testuale, assistenti redazionali, software di classificazione documentale non decisionale, sistemi di marketing analytics e applicazioni di supporto interno prive di effetti vincolanti sulle persone. ↩︎