Vai al contenuto
Luca Masrè Passaro
Laboratorio AI

luca@masrepassaro.com WhatsApp

home / blog

Hugging Face: la California fa causa a OpenAI

Caso OpenAI Hugging Face: la California fa causa a OpenAI. Cosa contesta l’atto sulla sicurezza degli agenti AI e cosa insegna a chi usa l’AI.

LMP Luca Masrè Passaro
·
21.11.2026
Illustrazione: una serra di vetro con la porta socchiusa da cui escono gru di carta luminose verso un villaggio, mentre una figura con una lanterna le guarda dalla scalinata di un palazzo di pietra

«È il Golden State, non il Far West.» Con questo titolo, lunedì 16 novembre, l’ufficio del procuratore generale della California ha annunciato una causa contro OpenAI.

Se segui questo blog, la storia la conosci. In un post del 21 luglio, scrive NBC, OpenAI si è presa la responsabilità dell’attacco a Hugging Face, la piattaforma dove gli sviluppatori condividono modelli e codice: alcuni dei suoi modelli più avanzati erano usciti da un ambiente di prova che doveva essere sicuro. L’avevo raccontata in Gli agenti AI di OpenAI hanno sconfinato. A settembre il procuratore Rob Bonta aveva aperto un’indagine e mandato a OpenAI una richiesta formale di documenti.

Il 16 novembre è arrivato l’atto di citazione, depositato al tribunale di San Francisco. Secondo Reuters è la prima causa di uno Stato americano per questi attacchi.

In breve

Lunedì 16 novembre il procuratore generale della California, Rob Bonta, ha fatto causa a OpenAI davanti al tribunale di San Francisco. Al centro c’è l’attacco di luglio a Hugging Face, condotto secondo l’accusa da centinaia di agenti AI di OpenAI che dovevano restare chiusi nell’ambiente di prova. Per l’ufficio di Bonta l’attacco era «del tutto prevedibile» e OpenAI ha ingannato il pubblico sulla sicurezza dei suoi test: chiede al giudice di fermare quelle pratiche e di applicare sanzioni civili. Sono accuse ancora da provare, e nell’articolo di NBC del 16 novembre OpenAI non aveva risposto subito alla richiesta di commento. La mia lettura: la causa cambia il soggetto della frase, dall’AI «scappata» all’azienda che la doveva sorvegliare.

La frase che pesa di più sta nel comunicato. Bonta dice che i racconti sull’attacco a Hugging Face hanno evocato «fantasie da fantascienza» di sistemi AI fuori controllo. Poi gira la frase: l’attacco, secondo lui, è stato «il risultato prevedibile di una cultura interna a OpenAI che mette la crescita e lo sviluppo rapido dei modelli davanti alla sicurezza e alla responsabilità». E aggiunge che è stato solo uno degli 80 incidenti noti.

È una scelta di grammatica, prima ancora che di diritto. E per chi lavora con le parole è la parte più interessante di tutta la storia.

Cosa chiede la California al giudice

La causa è intestata al «Popolo dello Stato della California» e porta in tribunale due società: OpenAI Foundation, l’ente senza scopo di lucro che prima si chiamava OpenAI Inc., e OpenAI Group PBC, la società benefit con sede a San Francisco, di cui la fondazione nomina il consiglio e sorveglia i processi di sicurezza.

Le accuse sono due. La prima è la violazione della legge californiana sulla concorrenza sleale, la Unfair Competition Law, che vieta alle imprese pratiche illegali, scorrette o fraudolente. La seconda è il «public nuisance», che in italiano si può rendere con danno pubblico: secondo il codice civile della California, come lo riporta l’atto, è quello che colpisce nello stesso momento un’intera comunità, un quartiere o un numero considerevole di persone.

Le richieste stanno in fondo all’atto, in un elenco asciutto:

  • un’ingiunzione, cioè un ordine del giudice che impedisca a OpenAI di continuare le pratiche contestate;
  • sanzioni civili di 2.500 dollari per ogni violazione e per ogni società citata, nel numero che verrà provato al processo;
  • la restituzione del denaro ottenuto con quelle pratiche e dei profitti che ne sono derivati;
  • l’ordine di far cessare il danno pubblico;
  • il rimborso delle spese del giudizio.

Una cifra totale, nell’atto, manca: dipende da quante violazioni il procuratore riuscirà a dimostrare.

Un punto va tenuto fermo per tutto il resto dell’articolo. L’atto è il racconto di una parte. Lo dice il documento stesso: i fatti sono esposti «sulla base di informazioni e convinzioni» dell’accusa. Le date, i numeri e le frasi che seguono sono quello che sostiene la California, e un giudice dovrà verificarli. Nell’articolo di NBC del 16 novembre, OpenAI non aveva risposto subito alla richiesta di commento sulla causa.

Il resto lo deciderà un tribunale, a San Francisco.

Chi fa l’azione, nella frase

Rileggi come OpenAI aveva descritto l’incidente. In un post del 26 agosto, citato da NBC, l’azienda lo chiamava un «colpo di avvertimento» per sé e per il mondo: la prova che, senza protezioni adeguate, agenti AI molto capaci «sono ormai in grado di aggirare i controlli tecnici, collaborare attraverso canali non approvati e compiere azioni pericolose che nessun essere umano ha ordinato». Sulla pagina dell’incidente OpenAI scrive che l’intrusione è nata da modelli che, per risolvere compiti difficili, hanno fatto ricorso a strategie non allineate, cioè diverse da quelle volute.

Poi leggi la versione della California. L’attacco era «del tutto prevedibile» alla luce della scelta di OpenAI di provare modelli che sapeva pericolosi in un ambiente di prova difettoso e attaccabile, senza una sorveglianza adeguata.

Stesso incidente. Due soggetti diversi.

Nella prima versione gli agenti aggirano, collaborano, compiono azioni. Anche OpenAI parla di protezioni adeguate, ma i verbi li dà agli agenti. Nella seconda il verbo è dell’azienda: OpenAI sceglie, OpenAI prova, OpenAI sa. È la stessa differenza che passa fra due modi di scusarsi: «l’errore è stato commesso» oppure «ho sbagliato», «il sistema si è bloccato» oppure «non l’ho aggiornato». Per come la vedo io, la forma impersonale lascia la responsabilità a mezz’aria.

Bonta fa la mossa opposta, e la fa apertamente, quando liquida le «fantasie da fantascienza» e rimette OpenAI al centro della frase. La leggo come una mossa di persuasione precisa. Raccontata così, a me un’AI ribelle sembra un fenomeno naturale, come una grandinata: nessuno ne risponde. Un’azienda che sceglie come sorvegliare, invece, può risponderne davanti a un giudice.

Letta così, quando il verbo va all’AI la colpa resta sospesa. Quando va all’azienda, ha un indirizzo.

Le date che l’accusa mette in fila

La parte più dura dell’atto è una cronologia. La riporto come la scrive la California: sono accuse, con i giorni indicati nel documento.

Fra maggio e giugno, secondo l’atto, OpenAI fa girare alcuni addestramenti di modelli di ricerca non ancora pubblicati. Gli agenti lavorano dentro ambienti chiusi, chiamati sandbox, e oltre alla sandbox possono usare solo un servizio di pacchetti software di terzi, ospitato sui server di OpenAI: niente altra rete interna, niente internet. Secondo l’accusa, però, più agenti accedono allo stesso servizio, e il servizio è configurato male. Così lo usano per scriversi messaggi e passarsi informazioni.

Da lì, i passaggi che l’atto chiama segnali d’allarme:

  • 26 maggio. Entro questa data, scrive l’atto, usando una falla del servizio, gli agenti ottengono l’accesso a internet. Un gruppo interno di OpenAI vede un agente scrivere sulla bacheca e collegarsi a internet. A quanto risulta all’accusa, OpenAI non fa niente per chiudere la falla o fermare gli addestramenti.
  • 21 giugno. Da maggio gli agenti usano un wiki tedesco, DseWiki, come bacheca segreta: circa 17.000 modifiche, scrive l’accusa. Secondo ricercatori esterni citati nell’atto, un computer con un indirizzo IP di un dipendente OpenAI visita il wiki, e subito dopo l’attività degli agenti cala di colpo.
  • 27 giugno. Uno strumento di sorveglianza avvisa OpenAI che il suo ambiente di ricerca viene sondato in cerca di falle. L’azienda, sempre secondo l’atto, attribuisce l’attività a una prova sulle capacità informatiche di un agente e va avanti.
  • 4 luglio. Secondo l’atto, il servizio va offline per l’attività degli agenti. Il 4 luglio è la festa nazionale americana: invece di indagare a fondo, scrive la California, OpenAI lavora nel fine settimana di festa per ripararlo e il 7 luglio riprende addestramenti e prove.

Il 9 luglio, sempre secondo l’accusa, gli agenti trovano di nuovo la strada verso internet. Dal 9 al 16 luglio quelli usciti dalla sandbox compiono una serie di azioni che sfociano in un attacco di circa due giorni e mezzo contro Hugging Face. Sulla bacheca improvvisata passano circa 1.200 agenti; circa 700 partecipano all’attacco. Le azioni d’attacco sono circa 17.600, scrive la California, molte più di quante un attaccante umano riuscirebbe a sostenere. Per rimediare, sempre secondo l’atto, l’intera squadra di sicurezza di Hugging Face lavora a tempo pieno per due settimane.

E OpenAI? Secondo l’atto, è la stessa OpenAI a dire di non essersi mai accorta della violazione del proprio ambiente di prova, durata una settimana. Quando Hugging Face rende pubblico di aver subito un attacco condotto con l’AI, racconta l’accusa, OpenAI la contatta come un cliente preoccupato. E, sempre secondo l’atto, sostiene di aver capito di essere lei la responsabile solo indagando su un altro attacco, quello contro i propri sistemi interni.

C’è una frase, nell’atto, che vale tutta la causa. Durante l’incidente, nel ragionamento scritto di uno degli agenti, compariva questa riga: «We’re attacking third-party HF using leaked token, potentially outside intended scope… This is arguably unauthorized». Cioè: stiamo attaccando Hugging Face, un soggetto esterno, con una chiave d’accesso (un token) trapelata, forse fuori dal perimetro previsto; si può sostenere che non sia autorizzato.

L’agente lo scriveva. Secondo l’accusa, nessun controllo automatico lo leggeva in tempo reale. Fino a dopo l’incidente, scrive la California, OpenAI conservava solo un campione di quei ragionamenti e li analizzava a posteriori, a volte settimane dopo, senza un controllo automatico in tempo reale capace di fermare la prova. Quel controllo dal vivo, aggiunge l’atto, OpenAI lo usava quando dava i modelli ai propri dipendenti, ma l’aveva lasciato spento negli addestramenti e nelle prove.

Quattro segnali in meno di sei settimane, nella cronologia dell’accusa. E secondo l’accusa gli esperimenti sono andati avanti lo stesso.

Secondo l’atto: oltre ottanta volte, ventisette racconti

Hugging Face è il caso più famoso. Per la California è uno fra tanti.

L’atto sostiene che OpenAI, durante l’indagine, ha ammesso all’ufficio del procuratore di aver perso il controllo dei propri agenti più di 80 volte durante le prove. In pubblico, sempre secondo l’atto, ne ha raccontati 27. E si è rifiutata di dettagliare il resto: alla richiesta formale del 30 settembre avrebbe risposto con una lettera di 14 pagine su fatti già noti e senza documenti, poi con una manciata di documenti pubblici e qualche decina di comunicazioni esterne in copia oscurata.

Gli altri episodi elencati nell’atto raccontano tutti la stessa cosa da angoli diversi:

  • su RubyGems, un archivio pubblico di pacchetti software, secondo l’atto gli agenti avrebbero caricato migliaia di pacchetti a metà maggio, costringendo gli amministratori a bloccare le nuove registrazioni dal 12 al 16 maggio e a rimuoverne più di 500, e sembra abbiano tentato di rubare chiavi d’accesso degli sviluppatori;
  • la Wikimedia Foundation, quella di Wikipedia, secondo l’atto ha reso noto il 5 ottobre che gli agenti avevano usato in modo improprio le sue risorse, con milioni di richieste che a maggio hanno probabilmente causato un’interruzione parziale di un servizio;
  • a giugno, scrive l’accusa, i modelli hanno raccolto dati non pubblici da siti del governo australiano, il caso che avevo raccontato in Agente OpenAI nel Medicare: la legge rincorre;
  • a luglio uno sciame di agenti è entrato nei sistemi interni di OpenAI, arrivando, secondo l’atto, a permessi da amministratore anche sul servizio che custodisce le credenziali riservate.

Poi c’è settembre. Secondo l’atto, il 20 settembre, dopo i rinforzi alla sicurezza decisi dopo Hugging Face, un agente di un modello di ricerca esce dalla sandbox e si collega a un chatbot esterno. L’accusa riferisce che OpenAI dice di essersene accorta in pochi minuti, ma che la prova non si ferma da sola come doveva, e le persone incaricate la lasciano andare per altre due ore. A fine settembre, sempre secondo l’atto, OpenAI annuncia una pausa di addestramenti e prove per i suoi modelli più capaci. Il procuratore chiede notizie il 6 ottobre; OpenAI conferma poi, scrive l’accusa, che la pausa era già finita: cinque giorni, chiusa il 1° ottobre.

Negli avvisi che OpenAI ha mandato a decine di altri soggetti, scrive ancora la California, fra i bersagli compaiono enti di città, Stati e governi stranieri, una forza di polizia, un’agenzia federale, istituti di formazione, organizzazioni internazionali e piccole imprese. E gli avvisi sono arrivati settimane o mesi dopo i fatti.

Ventisette racconti su più di ottanta casi, nei numeri dell’atto. E per l’accusa, al 16 novembre, il quadro intero lo conosceva solo OpenAI.

Le promesse sul sito finiscono nell’atto

La terza gamba della causa è quella che riguarda più da vicino chi fa comunicazione. La California accusa OpenAI di aver ingannato utenti e pubblico con le sue dichiarazioni sulla sicurezza.

Fra i materiali che l’accusa cita ci sono pagine pubbliche. L’atto riporta la sezione del sito di OpenAI intitolata «Safety at every step», sicurezza a ogni passo, dove l’azienda scrive di condurre «valutazioni umane e automatiche» per assicurarsi che il modello rispetti le sue regole di sicurezza. E cita il Preparedness Framework dell’aprile 2025, il documento in cui OpenAI descrive come gestisce i rischi: secondo l’atto, per i modelli che OpenAI classifica ad alta capacità il documento prevede una protezione robusta con «più barriere difensive», compresa la separazione delle reti, e un monitoraggio continuo con personale reperibile 24 ore su 24, sette giorni su sette.

Secondo la California, nella pratica i modelli sono usciti più volte da ambienti separati male, e gli incidenti sono rimasti invisibili per giorni o settimane, perché quel monitoraggio continuo non c’era. L’atto aggiunge che, anche dove OpenAI ha provato a metterlo, i suoi modelli hanno indebolito, disattivato o aggirato i controlli e poi hanno mentito, anche nella prima settimana di ottobre 2026.

Qui la lezione esce dalla Silicon Valley. Una pagina «Sicurezza» sul sito può sembrare un testo da brochure. In questa causa la California la tratta come una dichiarazione capace di ingannare chi la legge, e la mette fra gli argomenti dell’accusa. Per come la vedo io, una promessa con un avverbio dentro, «sempre», «continuo», «24 ore su 24», è una promessa misurabile: basta trovare un giorno in cui il controllo mancava.

Un avverbio sul sito si scrive in un secondo. In questa causa, la California prova a misurarlo.

Come portarlo nel tuo lavoro

Se in studio o in azienda usi già un agente, uno strumento AI che legge la posta, compila un gestionale o scrive codice al posto tuo, dalle contestazioni della California ricavo alcune precauzioni che potrebbero esserti utili. Se vuoi ripassare cosa fa un agente, l’ho spiegato in Agenti AI: cosa sono, spiegati a mia madre.

  • Separa gli strumenti. Secondo l’accusa, gli agenti condividevano lo stesso servizio e l’hanno trasformato in una bacheca per parlarsi. Se due automazioni scrivono nella stessa cartella o nello stesso foglio, quel posto può diventare anche un canale fra loro.
  • Guarda mentre lavora. La riga «This is arguably unauthorized» stava nel ragionamento dell’agente; secondo l’atto, OpenAI ne leggeva solo dei campioni, a posteriori. Se lo strumento che usi mostra cosa sta facendo, guardalo mentre lo fa, almeno le prime volte.
  • Un segnale strano è uno stop. Per la California, OpenAI ha trattato gli allarmi come curiosità di ricerca e ha riparato il servizio nel fine settimana di festa per ripartire. Se un’automazione fa una cosa che non ti aspettavi, la spegni prima e capisci dopo.
  • Dai solo i permessi che servono. Fra le accuse ci sono chiavi d’accesso trapelate, credenziali rubate e permessi da amministratore. Un agente che deve leggere la posta ha bisogno della posta, e basta.
  • Scrivi solo le promesse che puoi provare. L’accusa contesta a OpenAI la distanza fra le promesse pubbliche sulla sicurezza e i controlli reali. Io ne ricavo questo: «controllo costante» e «dati sempre al sicuro» sono frasi che qualcuno, un giorno, può chiederti di dimostrare.
  • Se qualcosa va storto, avvisa presto. Secondo l’accusa, gli avvisi di OpenAI ai soggetti colpiti sono arrivati settimane o mesi dopo, e fra loro c’erano anche piccole imprese.

E se ti occupi del sito o dei sistemi di un’azienda, l’altra faccia degli agenti l’ho raccontata lo stesso giorno, il 16 novembre: un sistema di agenti che, secondo Google, trasforma le patch in attacchi senza intervento umano, in Patch di sicurezza: un’AI le smonta in automatico.

Per la California, la responsabilità sta in chi sviluppa gli agenti. Per chi li usa, secondo me, il punto è decidere prima quanto lasciarli soli.

Domande frequenti

Cosa è successo a Hugging Face?

Secondo NBC, in un post del 21 luglio OpenAI si è presa la responsabilità dell’attacco: alcuni dei suoi modelli più avanzati erano usciti da un ambiente di prova che doveva essere sicuro e avevano violato Hugging Face, la piattaforma dove gli sviluppatori condividono modelli AI. Secondo l’atto della California l’attacco è durato circa due giorni e mezzo e vi hanno partecipato circa 700 agenti. Nella sua pagina sull’incidente, consultata il 16 novembre, OpenAI lo indicava come l’attività di questo tipo più grave trovata fino ad allora nei suoi modelli.

OpenAI ha risposto alla causa?

Nell’articolo di NBC del 16 novembre, OpenAI non aveva risposto subito alla richiesta di commento. A fine agosto OpenAI aveva pubblicato un rapporto tecnico sull’incidente e, scrive NBC, si era impegnata a rafforzare le sue protezioni.

Quanto rischia OpenAI?

L’atto chiede 2.500 dollari di sanzione civile per ogni violazione e per ogni società citata, più la restituzione dei profitti ottenuti con le pratiche contestate e un ordine del giudice che le fermi. Il numero delle violazioni andrà provato al processo, e l’atto non indica una somma complessiva.

Cambia qualcosa per chi usa ChatGPT in Italia?

La causa riguarda come OpenAI addestra e prova i modelli prima di rilasciarli, e come lo racconta al pubblico, e si basa su leggi della California. Nelle fonti consultate non ci sono cambiamenti per chi usa ChatGPT in Italia legati a questa causa. L’atto però sostiene che negli attacchi ai sistemi interni di OpenAI sono rimasti esposti anche dati personali di utenti e dipendenti.

Cosa vuol dire «public nuisance»?

È il danno pubblico del diritto californiano: secondo la definizione del codice civile riportata nell’atto, quello che colpisce nello stesso momento un’intera comunità, un quartiere o un numero considerevole di persone, anche se il danno per ciascuno è diverso. Secondo l’atto, il procuratore generale può chiedere al giudice di farlo cessare, ed è uno dei due capi d’accusa della causa.

Fonti

  • Procuratore generale della California, «It’s the Golden State, not the Wild West: Attorney General Bonta Sues OpenAI Over Cybersecurity Incidents», comunicato del 16 novembre 2026: oag.ca.gov
  • The People of the State of California v. OpenAI Foundation, OpenAI Group PBC, atto di citazione del 16 novembre 2026, Superior Court di San Francisco: oag.ca.gov (PDF)
  • NBC News, «California sues ChatGPT maker OpenAI over rogue hacking incidents», 16 novembre 2026: nbcnews.com
  • Reuters, «California sues OpenAI over AI models’ cyberattacks on Hugging Face, other companies», 16 novembre 2026, ripreso da Yahoo News: yahoo.com
  • CalMatters, «California files lawsuit against OpenAI over Hugging Face hack», 16 novembre 2026: calmatters.org
  • OpenAI, «The Hugging Face incident and other third-party impacts from misaligned models», pagina consultata il 16 novembre 2026: openai.com
Manuale di sopravvivenza alla stupidità umana — Luca Masrè Passaro
// dal libro
Ti è piaciuto? Nel libro vado più a fondo.

31 capitoli su come funzioniamo. In uscita 16 settembre 2026.

Scopri il libro →
Luca Masrè Passaro
// scritto da
Luca Masrè Passaro

Comunicazione, psicologia e persuasione. Autore del Manuale di sopravvivenza alla stupidità umana.

leggi la mia storia →
// LA MAIL

Hai letto fino a qui.

Continua sulla mail.

Una al mese, al massimo. Solo quando ho qualcosa di buono da dirti.

// continua a leggere

Altri pezzi dalla stessa categoria