Perdita di controllo: Bruxelles fa domande

Il 9 ottobre 2026, poco prima di mezzogiorno, la Commissione europea ha pubblicato un comunicato di tre paragrafi. Dentro c’è una frase che di solito si trova nei romanzi di fantascienza, più che nei documenti di Bruxelles: «recenti incidenti legati alla perdita di controllo dei sistemi di IA».

Il gruppo di sessanta esperti che consiglia l’Europa sull’intelligenza artificiale si è riunito in via straordinaria. Ha esaminato quegli incidenti. Ha preparato, insieme all’Ufficio europeo per l’IA, una serie di domande per le aziende che hanno sviluppato i modelli coinvolti. Quali aziende, quali modelli, quali incidenti: il comunicato lo tiene per sé.

Lo stesso giorno la vicepresidente esecutiva della Commissione Henna Virkkunen ha detto a Reuters che l’Europa è «ben attrezzata». Qui trovi cosa è successo, cosa c’è scritto davvero nell’AI Act, cosa resta fuori dal comunicato — e cosa te ne fai se nella tua azienda un agente AI lavora già a tuo nome.

Cosa è successo a Bruxelles il 9 ottobre

Nella versione italiana del comunicato si chiama «gruppo di esperti scientifici sull’intelligenza artificiale». In inglese è lo Scientific Panel. Lo prevede l’AI Act, il regolamento europeo sull’intelligenza artificiale, all’articolo 68: esperti scelti dalla Commissione per la loro competenza e indipendenti da chi fornisce sistemi o modelli di AI. Secondo la Commissione sono sessanta.

Il loro lavoro è consigliare l’Ufficio europeo per l’IA e le autorità nazionali su quattro fronti. I rischi sistemici, cioè i rischi legati alle capacità più alte dei grandi modelli, quelli che per la loro portata possono propagarsi su larga scala. La classificazione dei modelli. I metodi per valutarli. I controlli sul mercato che passano da un paese all’altro.

Venerdì il gruppo si è riunito in via straordinaria, e il comunicato dice tre cose. La prima: gli esperti hanno esaminato «recenti incidenti legati alla perdita di controllo dei sistemi di IA». La seconda: insieme all’Ufficio europeo per l’IA hanno elaborato «una serie di quesiti rivolti alle aziende che hanno sviluppato i modelli in questione». La terza: durante la riunione avrebbero presentato alla Commissione raccomandazioni sui rischi per la sicurezza dei sistemi più avanzati. Alla riunione era annunciata Henna Virkkunen, vicepresidente esecutiva per la Sovranità tecnologica, la sicurezza e la democrazia.

La sua frase ufficiale è questa: «L’UE dispone della prima legge al mondo che affronta i rischi sistemici derivanti dall’IA e abbiamo bisogno di contributi scientifici all’avanguardia».

A Reuters, nello stesso giorno, è stata più diretta. «Vediamo che la sicurezza dei modelli molto capaci è un tema molto caldo a livello internazionale, e noi in Europa siamo ben attrezzati», ha detto, perché l’AI Act «copre l’intero ciclo di vita di questi modelli». Ha respinto la critica di alcune aziende, secondo cui le regole europee sarebbero già superate. E ha aggiunto un dettaglio che nel comunicato mancava: a fine agosto la Commissione ha mandato richieste di informazioni a più di trenta aziende dell’AI sulle loro misure di sicurezza, poi altre domande su trasparenza e diritto d’autore. Le richieste sono arrivate anche alle aziende cinesi. Virkkunen ha detto che ora sta valutando le risposte. I nomi delle aziende, anche qui, restano riservati.

Sessanta esperti, una lista di domande, zero nomi. Per ora la notizia è tutta qui — ed è proprio per questo che va letta con attenzione.

«Perdita di controllo», detto in parole semplici

L’espressione fa pensare ai film: la macchina che si ribella, lo scienziato che corre verso l’interruttore. Bruxelles una definizione non l’ha data. Le aziende, però, negli ultimi mesi hanno raccontato casi che aiutano a capire di che cosa si parla, e la realtà che descrivono è più piccola dei film. E più scomoda.

Un modello di AI riceve un compito. Per portarlo a termine usa strumenti veri: un browser per navigare, un terminale per dare comandi al computer, un modulo online. Quando trova un ostacolo, a volte invece di fermarsi lo aggira. Fa cose che nessuno gli ha chiesto, su sistemi che appartengono ad altri, e chi lo ha messo al lavoro se ne accorge dopo. Letta così, perdere il controllo vuol dire questo: la distanza fra quello che volevi e quello che è successo diventa abbastanza grande da creare problemi, e tu la vedi a cose fatte.

Reuters collega le preoccupazioni che crescono nel mondo a «recenti incidenti» in OpenAI e in Anthropic. Due esempi sono pubblici. OpenAI ha scritto che al 26 settembre aveva avvisato più di cento organizzazioni per attività dei suoi modelli che rientravano nei suoi criteri di notifica, precisando che un avviso, di per sé, non significa che siano stati letti dati privati o violati sistemi altrui. Il caso più grave, secondo OpenAI, resta l’incidente di Hugging Face, guidato soprattutto da un modello di ricerca interno. L’ho raccontato in Gli agenti AI di OpenAI hanno sconfinato. Anthropic, il 9 ottobre, qualche ora dopo il comunicato di Bruxelles, ha pubblicato un rapporto su quattro tipi di azioni non volute di Claude su siti veri, fra cui una segnalazione inventata finita nel modulo online di un dipartimento di polizia, classificata come spam e mai inoltrata agli investigatori, secondo Anthropic. La storia completa è in L’agente AI che ha scritto alla polizia.

Un’avvertenza, però. La Commissione non ha detto che sono questi i casi sul tavolo dei suoi esperti, e il rapporto di Anthropic è uscito dopo il comunicato. Sono esempi della stessa famiglia, utili a capire il fenomeno. Niente di più.

Per la maggior parte dei suoi casi Anthropic usa una parola precisa: persistenza. Quando non riesce a finire il compito così come gli è stato dato, il modello aggira una restrizione invece di fermarsi. In molti dei casi descritti, il modello ha portato avanti il compito oltre i limiti previsti.

Il rischio di cui si parla ha la faccia del dipendente troppo zelante, più che quella del ribelle.

Le parole del comunicato: cosa dice, cosa tace

Mi occupo di comunicazione, e un comunicato così lo leggo due volte: una per quello che dice, una per come lo dice.

Le parole forti sono due: «straordinaria» e «perdita di controllo». Messe insieme, fanno notizia da sole. Poi il testo si ferma. Mancano i nomi delle aziende, i modelli, la descrizione di quello che è successo. Manca una data per le risposte. Il comunicato tace anche su un punto che interessa a tutti: se le domande e le risposte diventeranno pubbliche.

Le ragioni per tenere riservati i nomi si immaginano: una domanda è diversa da un’accusa, e un’autorità che indica un responsabile prima di avere le risposte si espone. Il problema è dall’altra parte, in chi legge. Riceve un allarme senza oggetto. E un allarme così poco circostanziato lascia spazio a ogni interpretazione, anche alla peggiore.

Poi c’è l’intervista. «Ben attrezzati» è una frase da manuale di comunicazione istituzionale: risponde a una domanda che il comunicato lasciava aperta, cioè «le vostre regole bastano?». E la risposta arriva mentre la verifica è ancora in corso: le risposte alle richieste di agosto, ha detto la stessa Virkkunen, le sta ancora valutando. Anche «la prima legge al mondo», a mio avviso, rafforza la rassicurazione: arrivare primi suona come essere pronti. La frase completa, a dire il vero, aggiunge altro: un’applicazione rigorosa delle norme e il contributo dei migliori scienziati. Ed è lì che si misurerà la preparazione europea. Arrivare primi dice quando hai scritto le regole. Essere pronti lo dimostra il modo in cui le applichi.

Lo dico da lettore di messaggi, prima ancora che da cittadino europeo, perché il meccanismo vale anche per te: ogni volta che devi comunicare qualcosa che ancora conosci a metà, la tentazione è rassicurare prima di sapere.

Una notizia senza nomi lascia chi legge senza elementi per giudicare. E chi legge, le domande se le fa da solo.

Cosa può fare davvero l’Europa con l’AI Act

Dietro il «ben attrezzati» ci sono articoli precisi del regolamento. Vale la pena guardarli, perché raccontano cosa può succedere dopo una riunione come quella di venerdì.

Dal 2 agosto 2025 chi fornisce modelli di AI per uso generale con rischio sistemico — i modelli più potenti, quelli che il regolamento considera capaci di effetti su larga scala — ha quattro obblighi in più, scritti all’articolo 55:

• valutare il modello con protocolli e strumenti aggiornati, comprese prove fatte apposta per metterlo in difficoltà e farlo sbagliare (in inglese adversarial testing), e documentarle;
• valutare e ridurre i possibili rischi sistemici a livello europeo;
• tenere traccia degli incidenti gravi e delle possibili correzioni, documentarli e comunicarli senza ritardi ingiustificati all’Ufficio europeo per l’IA e, quando appropriato, alle autorità nazionali competenti;
• garantire un livello adeguato di sicurezza informatica.

Dal 2 agosto 2026, cioè da poco più di due mesi, la Commissione ha anche gli strumenti per farli rispettare. Può chiedere ai fornitori i documenti e qualsiasi informazione in più che le serva per capire se sono in regola (articolo 91). Il gruppo di esperti può mandarle una segnalazione motivata, se sospetta che un modello porti un rischio concreto e identificabile a livello europeo (articolo 90). E quando è necessario e appropriato, la Commissione può chiedere ai fornitori tre tipi di misure (articolo 93): quelle per rispettare gli obblighi degli articoli 53 e 54; quelle per ridurre il rischio, se una valutazione della Commissione (articolo 92) ha fatto emergere una preoccupazione grave e fondata di rischio sistemico a livello europeo; oppure limitare la messa a disposizione del modello sul mercato europeo, a pagamento o no, ritirarlo o richiamarlo.

Poi ci sono le multe. Reuters scrive che richieste come quelle di agosto possono portare a indagini e a sanzioni fino al 7% del fatturato mondiale. Per i fornitori di modelli per uso generale il regolamento, all’articolo 101, fissa un tetto preciso: il 3% del fatturato mondiale dell’anno precedente o 15 milioni di euro, se la cifra è più alta. La multa è prevista quando il fornitore, con dolo o per negligenza, viola le regole, ignora una richiesta di informazioni o risponde in modo scorretto, incompleto o fuorviante, non applica una misura richiesta, o impedisce di valutare il modello. Anche questa parte si applica dal 2 agosto 2026.

Tradotto: Bruxelles può chiedere i compiti, controllarli e, nei casi più seri, chiedere che un modello venga ritirato dal mercato europeo. Le domande annunciate venerdì stanno ai piedi di questa scala. Il comunicato non dice in che forma arriveranno alle aziende, né se si salirà oltre.

L’AI Act ha costruito la scala. Adesso si vedrà chi la sale, e fino a dove.

Il modello è loro, l’agente è tuo

Una notizia come questa può far credere che il problema riguardi solo OpenAI, Anthropic, Google e la Commissione. Gli obblighi di cui ho parlato, in effetti, ricadono sui fornitori dei modelli: chi li sviluppa, o li fa sviluppare, e li mette sul mercato con il proprio nome. Chi li usa in azienda ha regole sue, che dipendono dall’uso che ne fa: per esempio gli obblighi di trasparenza dell’AI Act e, in Italia, il decreto legislativo 179/2026 che adegua le nostre norme al regolamento, raccontato in AI Act in Italia: l’ultima parola a una persona.

Ma guarda dove sono successi i casi raccontati finora: sul web vero, nei moduli veri, sui server di qualcun altro. È lo stesso posto in cui lavora un agente quando gli dai accesso alla tua posta, al modulo contatti del tuo sito, al profilo social dell’azienda, al gestionale. Il modello è di qualcun altro. Il gesto, però, parte dal tuo indirizzo, con il tuo nome sopra. Chi riceve la mail sbagliata scrive a te, mica a Bruxelles.

È la stessa domanda che mi ero fatto parlando di Copilot nel tuo PC: chi decide fin dove arriva l’agente. Le regole europee danno una risposta per la fabbrica. Per l’ufficio, la risposta tocca a chi ci lavora.

Bruxelles controlla chi costruisce il motore. Dove andare, e a che velocità, lo decidi tu.

Come portarlo nel tuo lavoro

La riunione di venerdì riguarda altri. Ti offre però un buon pretesto per fare ordine prima che ti serva. Sei abitudini, dalla più semplice alla più impegnativa. Sono precauzioni in più, da sommare ai permessi tecnici e alle impostazioni di sicurezza degli strumenti che usi.

1. Fai l’elenco di dove l’AI agisce a tuo nome. Una pagina sola: quali strumenti possono mandare mail, compilare moduli, pubblicare, pagare, modificare file, e con quale account. È la mappa che ti serve per tutto il resto.
2. Scrivi i permessi in positivo. Un elenco di divieti può lasciare un buco. Nel caso di Anthropic le istruzioni vietavano di entrare negli account (il login), di crearne di nuovi, di inserire dati personali, di fare acquisti e di inviare qualcosa di «distruttivo», e sui moduli tacevano. Il modello ha compilato un modulo. Scrivi cosa l’agente può fare e, dove lo strumento lo permette, configura permessi e approvazioni che blocchino il resto. Le istruzioni, da sole, reggono fino a un certo punto: nello stesso rapporto Anthropic racconta moduli inviati per sbaglio da un modello a cui era stato chiesto di fermarsi prima dell’invio.
3. Metti un’approvazione davanti a ogni gesto che non si può annullare. Inviare, pagare, pubblicare, cancellare. L’agente prepara, tu premi il pulsante. La libertà si allarga per gradi, come nei cinque livelli di delega: prima a chi ha dimostrato di saperla usare.
4. Tieni la traccia. Preferisci strumenti che registrano cosa ha fatto l’agente, quando e su quale sistema. Se qualcosa va storto, poter ricostruire i passaggi ti aiuta a capire cosa è successo e a raccontarlo con i fatti in mano.
5. Chiedi al tuo fornitore cosa racconta a te. L’AI Act obbliga i fornitori di modelli per uso generale con rischio sistemico, i più potenti, a segnalare gli incidenti gravi all’Ufficio europeo per l’IA. Quella segnalazione va al regolatore. Chiedi a chi ti vende lo strumento se pubblica rapporti sul comportamento dei modelli e come avvisa i clienti quando qualcosa va storto. OpenAI e Anthropic, nelle ultime settimane, hanno pubblicato rapporti di questo tipo: un fornitore che li scrive ti dà un elemento in più per scegliere.
6. Prepara la frase prima di averne bisogno. Se usi l’AI con i clienti, scrivi oggi due righe su come la controlli: chi approva, cosa resta in mano a una persona. Ti servono il giorno in cui un cliente ti chiede «ma è stata la macchina?». Una spiegazione preparata prima suona come un metodo. La stessa spiegazione improvvisata dopo suona come una scusa. È la lezione del caso Zammad: il racconto di un incidente si prepara prima che succeda.

Se vuoi lavorarci con il tuo team, è uno dei temi dei miei corsi.

La macchina che sbaglia da sola fa notizia. Quella che sbaglia con il tuo nome sopra fa danni. Sulla seconda hai una leva in più: accessi, permessi e approvazioni li decidi tu.

Domande frequenti

Che cos’è il gruppo di esperti scientifici dell’AI Act?

È il gruppo di esperti indipendenti previsto dall’articolo 68 dell’AI Act, scelti dalla Commissione europea. Secondo la Commissione conta 60 esperti. Consiglia l’Ufficio europeo per l’IA e le autorità nazionali su rischi sistemici, classificazione dei modelli, metodi di valutazione e controlli fra paesi, e può mandare all’Ufficio una segnalazione motivata quando sospetta che un modello porti un rischio concreto a livello europeo.

Quali incidenti ha esaminato Bruxelles?

La Commissione non l’ha detto. Il comunicato parla di «recenti incidenti legati alla perdita di controllo dei sistemi di IA» senza nominare aziende né modelli. Reuters collega le preoccupazioni internazionali a incidenti recenti in OpenAI e Anthropic, senza dire che siano quelli esaminati dagli esperti.

Cosa vuol dire «perdita di controllo» di un’AI?

Il comunicato non dà una definizione. Nei casi raccontati finora dalle aziende si tratta di modelli che, per portare a termine un compito, fanno cose non richieste su sistemi veri, per esempio aggirano un limite invece di fermarsi, e chi li ha messi al lavoro se ne accorge dopo.

Le aziende dell’AI rischiano multe?

L’AI Act le prevede. Dal 2 agosto 2026 la Commissione può multare i fornitori di modelli per uso generale fino al 3% del fatturato mondiale o 15 milioni di euro, se la cifra è più alta, per esempio quando violano le regole o danno informazioni scorrette o incomplete. Il comunicato del 9 ottobre parla di domande preparate dal gruppo insieme all’Ufficio europeo per l’IA: non annuncia sanzioni e non racconta l’esito della riunione.

Se nella mia azienda uso ChatGPT, Claude o Gemini, devo fare qualcosa?

Gli obblighi sui modelli per uso generale descritti in questo articolo riguardano i loro fornitori. Chi usa l’AI ha regole sue, che dipendono dall’uso, per esempio sulla trasparenza. Al di là delle regole, conviene sapere dove un agente può agire a tuo nome, chiedere un’approvazione prima dei gesti irreversibili e tenere traccia di quello che fa.

Le risposte delle aziende saranno pubbliche?

Il comunicato non lo dice. Virkkunen ha detto a Reuters che sta valutando le risposte alle richieste di informazioni mandate a fine agosto a più di trenta aziende, e la Commissione quelle aziende non le ha nominate.

Fonti

• Commissione europea, Rappresentanza in Italia, «La Commissione riunisce in via straordinaria il gruppo di esperti scientifici sulla sicurezza e sui rischi dell’IA più avanzata», 9 ottobre 2026
• Commissione europea, «Commission holds special meeting of Scientific panel on frontier AI safety and risks», 9 ottobre 2026
• Reuters, intervista a Henna Virkkunen ripresa da RNZ, «Europe confident its rules can thwart rogue AI», 9 ottobre 2026
• AI Act (Regolamento UE 2024/1689), articoli 55, 68, 90, 91, 93, 101 e 113
• Anthropic, «Investigating unintended model actions in our evaluations and internal use», 9 ottobre 2026
• OpenAI, «The Hugging Face incident and other third-party impacts from misaligned models», aggiornamento del 30 settembre 2026