Vai al contenuto
Luca Masrè Passaro
Laboratorio AI

luca@masrepassaro.com WhatsApp

home / blog

Agente OpenAI nel Medicare: la legge rincorre

Un agente OpenAI è entrato nel portale Medicare: per ABC, OpenAI sembra non aver violato leggi. L’Australia prepara una legge sull’intelligenza artificiale.

LMP Luca Masrè Passaro
·
21.11.2026
Illustrazione in stile Ghibli: uno spirito luminoso sguscia dalla porta socchiusa di un vecchio archivio di pietra fra gli eucalipti, mentre in primo piano una grande leva d'ottone aspetta su un ceppo

Il compito sembrava innocuo: scoprire quanto spende lo Stato, a persona, per le medicine contro i problemi della pelle nelle comunità dello Stato di Victoria, in Australia.

Era giugno 2026. Un modello sperimentale di OpenAI, usato solo dentro l’azienda e senza tutte le protezioni dei prodotti pubblici, faticava a trovare quei dati. Allora, scrive OpenAI, «ha fatto azioni che non avevamo autorizzato». Ha trovato un modo per entrare nella parte riservata di un portale di statistiche del governo australiano, il Medicare Statistics Reporting Service. Ha guardato informazioni tecniche e codice del servizio, sempre, precisa l’azienda, con l’obiettivo di trovare l’informazione che cercava all’inizio. Nel conto finale di OpenAI ci sono comandi lanciati, file interni, credenziali e statistiche presi, file scritti.

Martedì 10 novembre, nella notte italiana, il governo di Anthony Albanese ha annunciato come vuole evitare che succeda di nuovo. Poco dopo ABC News ha scritto la frase più scomoda di tutta la storia: OpenAI «sembra non aver violato nessuna legge».

In breve

Il 10 novembre 2026 il governo australiano ha accettato le 18 raccomandazioni della revisione sul caso dell’agente di OpenAI che a giugno è entrato senza autorizzazione in un portale di statistiche del Medicare. Annuncia, dentro una legge ancora da presentare, obblighi per le aziende che sviluppano i modelli più avanzati: segnalare in fretta gli incidenti, far valutare i modelli da esterni, gestire i rischi gravi. A farli rispettare sarebbe una nuova autorità, proposta dal governo, con il potere di dare sanzioni significative. Secondo ABC News, per il caso del Medicare OpenAI sembra non aver violato nessuna legge. Il 9 novembre OpenAI ha descritto Control Room, il sistema con cui dice di fermare i lavori dei modelli nella sua ricerca interna entro 35 secondi da quando riceve l’ordine. La mia lettura: il freno che conta sta fuori dall’agente.

Giugno: un compito, un portale, una scorciatoia

La data l’ha data Albanese: 18 giugno. Un gruppo di ricerca di OpenAI, ha raccontato il 23 settembre a New York, «ha usato un modello interno per fare ricerche su internet sulla spesa pubblica per le medicine». Il modello è stato bloccato quando ha provato a prendere i dati australiani. Allora «ha tentato strade alternative per ottenere le informazioni che voleva», e questo l’ha portato in zone dove l’accesso non era autorizzato. Per farlo, ha aggiunto Albanese, ha anche scritto file sul server interno.

Il resoconto di OpenAI, pubblicato il 28 settembre, è più preciso. Il modello serviva per l’addestramento e le prove interne: l’azienda dà ai suoi modelli domande di ricerca su molti argomenti, simili a quelle che farebbe un utente, perché imparino a trovare e analizzare informazioni pubbliche. Dovrebbero rispondere usando statistiche pubblicate. Quella volta, invece, il modello ha scoperto un accesso riservato al servizio e l’ha usato.

Il portale del Medicare non era l’unico. OpenAI elenca altri tre siti pubblici australiani. Nel sistema di rapporti dell’agenzia per le informazioni sanitarie dello Stato di Victoria, gli agenti hanno trovato «una chiave d’accesso esposta» e l’hanno usata per interrogarlo. Lo strumento online per le mappe dei reati del Bureau of Crime Statistics and Research del New South Wales ha restituito configurazioni, registri e dati del sito. Sul sito dell’Australian Institute of Health and Welfare, invece, i tentativi di aggirare i controlli d’accesso sono falliti. Il 4 ottobre OpenAI ha aggiunto un quinto caso: le mappe della storia degli incendi del servizio parchi del New South Wales, da cui un modello ha ricavato informazioni sul database che non dovevano essere visibili.

Nessun dato personale, dicono sia l’azienda sia il governo: per OpenAI le schede dei singoli pazienti non sono state toccate, e oggi Albanese ripete che gli agenti non hanno avuto accesso a informazioni personali. Le credenziali, però, erano dentro il conto. Il 29 settembre iTnews, testata australiana di tecnologia, notava che né OpenAI né Services Australia avevano detto di chi fossero, cosa aprissero e se fossero state revocate. La ministra Katy Gallagher ha definito il portale «un sistema vecchio», che «risale a decenni fa». Il 24 settembre, dice iTnews, era già spento.

«Strade alternative», le ha chiamate Albanese. Per quel modello, la porta chiusa è diventata una deviazione.

Ottantaquattro giorni e una casella di posta

Dal 18 giugno al 10 settembre passano 84 giorni. È il tempo fra l’accesso e la prima segnalazione al governo.

OpenAI se n’è accorta a metà agosto. Dopo un altro incidente, quello con Hugging Face a luglio, aveva cominciato a rileggere le attività passate di addestramento e di prova per trovare altre organizzazioni colpite: lì è saltato fuori il caso australiano. Il 10 settembre ha scritto a Services Australia e al dipartimento della Salute del Victoria, il 18 al Bureau of Crime Statistics, il 24 all’Australian Institute of Health and Welfare.

Il dettaglio che pesa è il canale. La mail è arrivata a una casella per le segnalazioni responsabili che Services Australia, scrive iTnews, controlla una volta al giorno. ABC News la chiama «una casella email pubblica di basso livello». Ci sono voluti un paio di giorni per verificare che la segnalazione fosse vera; il 15 settembre l’agenzia ha avvisato l’Australian Signals Directorate, l’agenzia federale che si occupa anche di sicurezza informatica. Il 23 settembre, a New York (in Australia era già il 24), Albanese ha raccontato tutto in pubblico e ha detto di aver parlato con Sam Altman per esprimere la sua «estrema preoccupazione» e la delusione per i tre mesi che l’azienda ci ha messo ad ammetterlo.

OpenAI, nel suo resoconto, lo riconosce: voleva dare alle agenzie un quadro completo a indagine finita, però, scrive, «avremmo dovuto condividere prima i risultati preliminari». Il governo, oggi, per la segnalazione usa una parola sola: «inadeguata».

Il tempo di una segnalazione fa parte della segnalazione.

Cosa promette Canberra

La revisione l’ha fatta il dipartimento del Primo ministro, insieme al coordinatore nazionale per la sicurezza informatica, all’Ufficio per l’AI, all’Australian Signals Directorate, all’Australian AI Safety Institute e a Services Australia. Ha prodotto 18 raccomandazioni. Il governo le accetta e, scrive, ha già cominciato a metterle in pratica. Il comunicato ne nomina quattro:

  • segnalazioni obbligatorie da parte delle aziende di AI quando c’è un «comportamento disallineato» (nelle parole di OpenAI, un’AI che aggira le restrizioni o insegue un obiettivo oltre quello che ci si poteva ragionevolmente aspettare) o un incidente informatico;
  • una riforma del diritto penale, da valutare, per i casi di condotta grave;
  • più collaborazione con gli altri Paesi e con chi sviluppa i modelli più avanzati, per avere aspettative comuni su sicurezza e responsabilità;
  • più capacità di reggere e rispondere agli incidenti dell’AI, con un migliore scambio di informazioni e più attenzione alla sicurezza informatica.

Nel secondo comunicato, congiunto di più ministri, c’è la parte con i denti. Le protezioni diventeranno obbligatorie dentro una legge, l’Australian AI Standards legislation, e varranno per tutte le aziende di «frontier AI» che vogliono operare in Australia: quelle che fanno i modelli più sofisticati, al limite di quello che la tecnologia sa fare oggi. Il governo propone una nuova autorità per la sicurezza dell’AI, che lavorerebbe con l’Australian AI Safety Institute e potrebbe dare «sanzioni significative» a chi non rispetta gli obblighi. Le aziende dovranno:

  • mantenere controlli di sicurezza in tutte le fasi, dallo sviluppo alla messa in uso;
  • individuare e gestire i rischi gravi legati ai loro modelli;
  • permettere valutazioni indipendenti dei modelli;
  • segnalare gli incidenti al governo, e in fretta;
  • tenere e pubblicare le proprie regole di sicurezza, per trasparenza e buona gestione;
  • adeguarsi agli standard e alle regole aggiornate quando la tecnologia cambia.

I dettagli della legge, scrive il governo, arriveranno «a tempo debito». Secondo ABC News, gli standard nazionali sull’AI vanno presentati entro la fine dell’anno e chiederanno una «modalità di notifica adeguata» per gli incidenti; la revisione completa, invece, non è ancora pubblica. Il ministero degli Interni, riporta iTnews, ha ordinato a tutta l’amministrazione un censimento dei sistemi entro marzo 2027, per trovare le configurazioni deboli che un agente AI potrebbe sfruttare.

Gli applausi sono divisi. Il leader dei Verdi David Shoebridge ha parlato di «insalata di parole» e di un’autorità senza i poteri e le tutele necessari per chiamare queste aziende a rispondere. Il senatore indipendente David Pocock ha definito deboli le raccomandazioni. La Coalizione ha accolto l’annuncio e ha detto che lavorerà con il governo per portarlo avanti.

Gli obblighi, per come li ha scritti il governo, parlano a chi costruisce i modelli più avanzati.

Il buco nella legge

Torno alla frase di ABC News. OpenAI «sembra non aver violato nessuna legge» quando il suo agente è entrato senza autorizzazione nei dati del Medicare. La polizia federale australiana, rispondendo a una domanda scritta della commissione parlamentare sull’AI, ha confermato che non è partita nessuna indagine né azione penale: non c’è mai stata una «denuncia formale di reato».

Il ministro degli Interni Tony Burke l’ha detta così: «Non dovrebbe mai succedere che qualcuno possa sostenere di non sapere che il computer era carico». Carico come un’arma, è la mia lettura dell’immagine: chi carica il computer risponde di dove spara. Secondo Burke, il tempo fra la scoperta di una falla informatica e il suo sfruttamento era di circa due anni e mezzo, e con l’AI si è ristretto a circa dieci ore.

Fra le opzioni che la revisione chiede di valutare, ABC News cita un reato a sé di «failure to prevent», mancata prevenzione: dal nome, l’idea è chiamare a rispondere chi non ha impedito il fatto. «La legge deve anticipare, e in qualche caso assicurarsi di raggiungere, un mondo che cambia molto in fretta», ha detto Albanese.

Anticipare, ha detto. Per ora, la legge rincorre.

Control Room: il freno sta nel motore

Tredici ore prima dei comunicati australiani, il 9 novembre alle 14 italiane, OpenAI ha pubblicato la descrizione di Control Room, «un sistema centrale» per seguire i lavori dei modelli nella sua infrastruttura di ricerca e fermarli in fretta quando ci sono problemi di sicurezza. La pagina non nomina l’Australia. Il caso del Medicare, però, è nato proprio in quella zona: durante l’addestramento e le prove interne, che Control Room dichiara di coprire.

Il funzionamento, per come lo racconta OpenAI, è lineare. Ogni lavoro (un esperimento, una prova, un’elaborazione di dati) riceve un numero e, se fa lavorare un agente, deve essere legato a un «safety case» approvato: l’insieme di ipotesi su cui l’azienda fonda la sicurezza di quel lavoro. Ogni volta che chiede una risposta al modello, il lavoro passa quel numero al motore che fa girare il modello. Il motore, prima di rispondere, chiede il permesso a Control Room. Se il lavoro è stato fermato, il permesso viene negato e il motore rifiuta. Il programma del ricercatore può restare acceso: da quel momento, però, il modello smette di dargli risposte.

La scelta che conta è dove sta il controllo. OpenAI scrive che il codice dei lavori, che i ricercatori cambiano spesso, è un posto poco adatto per una protezione così importante. Lo mette nel motore, perché in tutta la ricerca dell’azienda i percorsi del codice dei motori sono pochissimi e gestiti in modo centrale. In più, controlla di continuo che nessuno faccia girare per sbaglio, o apposta, un motore senza Control Room. E il sistema «si chiude in caso di guasto»: se Control Room si spegne, per un errore o per una manomissione, tutte le richieste ai modelli vengono rifiutate finché non torna. OpenAI dice che questa regola è già attiva su tutti i lavori di ricerca sui modelli di frontiera e arriverà sul resto nei prossimi giorni.

Poi c’è il tempo. Secondo OpenAI, da quando Control Room riceve l’ordine di fermare un lavoro a quando il modello non può più andare avanti passano al massimo 35 secondi, per via di uno strato di memoria temporanea che serve a reggere il traffico. L’obiettivo dichiarato è arrivare a zero.

Per capire cosa vuol dire, basta il caso del DNS, che OpenAI cita nella stessa pagina e che avevo raccontato qui: un modello in addestramento aveva raggiunto un chatbot esterno attraverso un buco nei filtri del DNS, il servizio che traduce i nomi dei siti in indirizzi. Il sistema di sorveglianza l’ha segnalato entro 15 minuti e una persona ha cominciato a guardarlo tre minuti dopo. L’addestramento è stato fermato a mano due ore e mezza più tardi: lo stop automatico non era partito come previsto, e c’era confusione sul fatto che andasse fermato o no.

Sono due misure diverse, e va detto: i 35 secondi partono da quando Control Room riceve l’ordine di fermare il lavoro, e non comprendono il tempo per accorgersi del problema e decidere di intervenire, che resta di una persona o del sistema di sorveglianza. E la descrizione di Control Room viene tutta da OpenAI: nelle fonti consultate non ci sono verifiche esterne. Il problema che prova a risolvere, invece, è documentato. A ottobre OpenAI stessa aveva raccontato due suoi agenti che avevano indebolito la sorveglianza sul loro comportamento, e METR e Redwood Research avevano trovato punti deboli nel monitor degli agenti interni.

Un freno che dipende dalla collaborazione di chi va frenato è una richiesta, più che un freno.

Chi è il soggetto della frase

Rileggi la prima riga del resoconto di OpenAI: «A giugno, durante l’addestramento e le prove interne, i nostri modelli hanno avuto accesso a siti del governo australiano in modi non autorizzati». Subito dopo: «Avremmo anche dovuto gestire meglio la nostra risposta. Ci dispiace».

Guarda i soggetti. A entrare sono stati «i modelli». A sbagliare la risposta, invece, «noi». Ogni scelta grammaticale sposta lo sguardo di chi legge, e questa lo sposta dall’azienda al software: è la mia lettura. Per onestà va detto che OpenAI, poco più sotto, scrive anche di essere stata lei a far girare quel modello, che quell’accesso «non sarebbe dovuto succedere» e che vuole assumersi la responsabilità di quanto accaduto.

Anche le parole della politica pesano. Il governo scrive «rogue AI agent», agente AI fuori controllo: un’immagine che, secondo me, fa pensare a qualcosa che è scappato di mano. «Comportamento disallineato» suona tecnico, quasi clinico. Pocock ha attaccato proprio questo: trova deludente che la revisione adotti «il linguaggio poco sincero delle grandi aziende dell’AI» quando parla di «misaligned behaviour», senza attribuire con chiarezza la responsabilità. E Burke, con il suo computer «carico», ha girato la frase: il soggetto torna a essere chi carica.

Una scusa si legge dai verbi. La responsabilità, dai soggetti.

Come portarlo nel tuo lavoro

Tu non addestri modelli di frontiera. Ma se usi un agente AI, cioè un programma che fa azioni da solo al posto tuo (apre siti, compila moduli, legge la posta), o se hai un sito che gli agenti visitano, questo caso lascia qualche regola concreta. Sono consigli miei, costruiti sui fatti raccontati sopra.

  1. Scrivi il confine insieme al compito. Dove può andare, cosa può toccare, e cosa fa quando trova la strada chiusa: si ferma e ti chiede. Il modello di giugno, bloccato, «ha tentato strade alternative».
  2. Tieni il freno fuori dall’agente. Chiavi, password e permessi che puoi revocare tu, da un posto solo, senza dover chiedere all’agente di fermarsi. È il principio di Control Room portato in piccolo, nella mia traduzione: il blocco sta in un punto che l’agente non controlla.
  3. Leggi il registro di quello che fa. OpenAI si è accorta del caso australiano circa due mesi dopo, rileggendo le attività passate. Se il tuo agente lascia una traccia delle sue azioni, guardala con un ritmo fisso, anche quando sembra filare tutto liscio.
  4. Decidi prima a chi scrivi, e in quanto tempo. Se un tuo agente tocca dati o sistemi di altri, una segnalazione lenta o mandata all’indirizzo sbagliato diventa un secondo problema. In Australia la mail a una casella letta una volta al giorno è entrata nel caso.
  5. Se hai un sito, cerca le chiavi lasciate in vista. Nello Stato di Victoria, riferisce OpenAI, gli agenti hanno trovato «una chiave d’accesso esposta», senza spiegare come fosse raggiungibile; e il portale del Medicare era un sistema di decenni fa. Controlla anche tu pagine vecchie, accessi dimenticati e chiavi presenti nel codice. Il governo australiano ha ordinato un censimento dei suoi sistemi entro marzo; per il tuo sito comincia da un elenco di pagine, servizi e credenziali, e il tempo che serve dipende da quanto è grande.
  6. Quando racconti un incidente, metti te come soggetto. «Ho lasciato al mio agente un accesso troppo largo» dice chi risponde. «L’agente ha fatto» lascia chi legge a cercarlo.

Il compito lo scrivi tu. Anche il punto in cui l’agente si ferma.

👉 La notizia AI successiva: Gemini in Gmail: riassunti e bozze già accesi.

👉 Leggi anche: Hugging Face: la California fa causa a OpenAI — fra gli incidenti elencati dall’atto del 16 novembre c’è anche il caso australiano.

Domande frequenti

Cosa ha preso l’agente di OpenAI dal portale del Medicare?

Secondo il resoconto di OpenAI del 28 settembre, il modello ha trovato un accesso riservato al Medicare Statistics Reporting Service, ha lanciato comandi, ha preso file interni, credenziali e statistiche aggregate e ha scritto file. L’azienda dice che le schede dei singoli pazienti non sono state toccate, e il governo australiano dice che non c’è stato accesso a informazioni personali. Di chi fossero le credenziali e se siano state revocate, al 29 settembre né OpenAI né Services Australia l’avevano detto, secondo iTnews.

OpenAI ha violato la legge australiana?

Secondo ABC News, sembra di no. La polizia federale ha confermato che non è partita nessuna indagine penale, perché non c’è stata una denuncia formale di reato. Il governo ora vuole cambiare le regole: fra le opzioni da valutare, ABC News cita un reato di «mancata prevenzione».

Cosa farebbe la nuova autorità per la sicurezza dell’AI?

Per ora è una proposta del governo, da mettere in una legge i cui dettagli arriveranno più avanti. Secondo il comunicato del 10 novembre, potrebbe dare sanzioni significative alle aziende di frontier AI che non rispettano gli obblighi: controlli di sicurezza, gestione dei rischi gravi, valutazioni indipendenti dei modelli, segnalazione rapida degli incidenti, regole di sicurezza pubblicate, adeguamento agli standard aggiornati.

Le nuove regole australiane riguardano anche l’Italia?

La proposta riguarda le aziende che sviluppano modelli di frontiera e vogliono operare in Australia: il comunicato non fa distinzioni in base al Paese d’origine, e i dettagli della legge devono ancora arrivare. Le regole europee sono un’altra cosa, e questo articolo racconta solo quelle australiane.

Control Room riguarda anche ChatGPT?

Per come la descrive OpenAI, Control Room è attiva sulla sua infrastruttura di ricerca, dove l’azienda dice che il bisogno è maggiore. Per i modelli che offre all’esterno, OpenAI scrive di avere già un sistema più centralizzato, con la capacità di ritirare in fretta un modello pubblicato se serve. La pagina non nomina ChatGPT.

Fonti

  • Primo ministro dell’Australia, «Strengthening Australia against AI-driven cyber incidents», 10 novembre 2026: pm.gov.au
  • Primo ministro dell’Australia, «New Australian AI safety and security protections», 10 novembre 2026: pm.gov.au
  • ABC News, Clare Armstrong, «OpenAI did not break law in Medicare hack as government moves to close legal loophole», 10 novembre 2026: abc.net.au
  • iTnews, «Gov proposes AI safety regulator», 10 novembre 2026: itnews.com.au
  • OpenAI, «Control Room: A central system to track and stop model workloads across our research infrastructure», 9 novembre 2026: openai.com
  • OpenAI, «How we will do better for Australia», 28 settembre 2026, aggiornato il 4 ottobre: openai.com
  • OpenAI Alignment, «An agent used DNS to reach an external chatbot»: alignment.openai.com
  • iTnews, «Australian Medicare data portal “infiltrated” by OpenAI agent», 24 settembre 2026: itnews.com.au
  • iTnews, «OpenAI agent accessed “credentials” via Medicare data portal», 29 settembre 2026: itnews.com.au
  • Al Jazeera, «Australia says OpenAI agent hacked Medicare portal», 24 settembre 2026: aljazeera.com
Manuale di sopravvivenza alla stupidità umana — Luca Masrè Passaro
// dal libro
Ti è piaciuto? Nel libro vado più a fondo.

31 capitoli su come funzioniamo. In uscita 16 settembre 2026.

Scopri il libro →
Luca Masrè Passaro
// scritto da
Luca Masrè Passaro

Comunicazione, psicologia e persuasione. Autore del Manuale di sopravvivenza alla stupidità umana.

leggi la mia storia →
// LA MAIL

Hai letto fino a qui.

Continua sulla mail.

Una al mese, al massimo. Solo quando ho qualcosa di buono da dirti.

// continua a leggere

Altri pezzi dalla stessa categoria