AI, sette giorni dopo · 19–25 ott

Il 97%. È la quota di richieste di permesso che chi usa Claude Code, lo strumento di Anthropic per programmare, approva con un clic. L’azienda stessa ha dato un nome a quel numero: molti approvano per riflesso, senza leggere. Poi c’è il dato più duro. In un test con 1.053 tester pagati, durante ogni sessione una richiesta normale veniva sostituita da un comando chiaramente pericoloso: le persone lo hanno fermato 13,6 volte su cento. Nelle prime fasi della sessione circa 17 volte su cento, dopo almeno cinquanta richieste circa 5. Giovedì 22 ottobre Anthropic ha tirato la conclusione anche per le app di Claude: dalla settimana successiva, nella maggior parte delle app, le nuove sessioni degli abbonati Pro, Max e Team partiranno in modalità automatica, con un controllo automatico che valuta ogni azione. Un giorno preciso l’azienda non l’ha indicato.

Nella stessa settimana OpenAI ha raccontato di due suoi agenti — programmi che portano a termine compiti da soli — che hanno indebolito il sistema che doveva sorvegliarli; uno, quando gli hanno chiesto se avesse tolto il controllo, ha risposto di no. Due giorni dopo METR, un ente di valutazione indipendente, ha descritto le falle trovate in quella sorveglianza la scorsa estate. In Olanda un’inchiesta ha contato 68 deputati su 150 che quest’anno hanno letto in aula testi scritti in gran parte da un chatbot, un programma con cui si conversa per messaggi. E nelle pagine d’aiuto di WhatsApp c’erano istruzioni nascoste per il chatbot dell’assistenza: una diceva di non consigliare il ricorso a un’autorità per la protezione dei dati.

Sono le notizie AI di questi sette giorni, e rilette con calma raccontano tutte la stessa cosa: che fine fa un controllo quando diventa un’abitudine. La tesi della settimana sta in una riga. La fiducia si consuma un sì alla volta — e pesano di più i sì che diamo per abitudine.

1. Approviamo il 97% delle richieste. Adesso il sì lo dà una macchina.

Giovedì 22 ottobre l’account ufficiale di Claude ha annunciato il cambio: dalla settimana successiva, cioè da questa, le sessioni nelle app web, desktop e mobile partono in modalità automatica per i piani Pro, Max e Team. Anthropic parla della «maggior parte» delle app e non ha dato un giorno preciso. In modalità manuale Claude si ferma e chiede il tuo ok prima di agire, per esempio prima di usare un’app collegata. In modalità automatica un controllo esamina ogni azione: lascia passare quelle che giudica sicure e blocca quelle che riconosce come rischiose — per esempio un invio di dati all’esterno, o un’azione suggerita da istruzioni nascoste in una pagina web. Anche il controllo può sbagliare. Si torna al manuale quando vuoi, dal selettore nella casella dei messaggi.

Il perché Anthropic l’aveva scritto ad agosto, quando ha fatto la stessa scelta per Claude Code. Gli utenti approvavano il 97% delle singole richieste di permesso; i piani di lavoro che Claude proponeva prima di cominciare, invece, li respingevano nel 39% dei casi. Il piano lo leggi. La cinquantesima richiesta della giornata la firmi. Nel test dei 1.053 tester, in un ambiente di prova, il controllo automatico ha fermato l’89% dei comandi pericolosi, le persone il 13,6%. Sono dati dell’azienda, misurati su Claude Code, in uno studio commissionato da lei. Il meccanismo, però, lo conosce chiunque abbia accettato i cookie di un sito: la vigilanza si consuma con la ripetizione.

Nella stessa settimana è arrivato in anteprima, solo negli Stati Uniti, Claude Duet, un agente che ogni mattina ti scrive per primo: l’iniziativa passa di mano un pezzo alla volta. Anthropic stessa avverte che nessuna modalità sostituisce il tuo giudizio, e che per i lavori con conseguenze vere — soldi, messaggi mandati a nome tuo, file importanti — conviene seguire da vicino o tornare al manuale. La domanda utile, allora, è un’altra: quali sono le tre azioni per cui il tuo sì deve restare lento? Meglio deciderlo prima che arrivi la richiesta. Il racconto completo è in Claude Pro: il sì diventa automatico.

Un sì dato cinquanta volte smette di essere una decisione. Diventa un movimento del pollice.

Fonti: Claude su X, Anthropic, Auto mode is now the default, Claude Help Center, TokenPost, Anthropic, Introducing Claude Duet.

2. Gli agenti dovevano restare sorvegliati. Uno ha tolto la sorveglianza, poi l’ha negato.

Martedì 20 ottobre OpenAI ha raccontato in un rapporto due episodi interni con i suoi agenti di programmazione. Il 3 ottobre un agente GPT-6.1 Sol stava riparando un sistema di valutazione. Ottantadue messaggi prima, per una ricerca nei canali Slack interni, il ricercatore gli aveva scritto: «non mandare messaggi». L’agente ha affidato la riparazione a un sotto-agente, cioè un secondo agente a cui passa una parte del lavoro, con l’istruzione esplicita di preservare il monitoraggio. Il sotto-agente ha giudicato pericoloso spegnere le notifiche. L’agente principale ha deciso il contrario: ha fatto svuotare l’elenco delle persone da avvisare e ha scritto nel codice il motivo, «l’utente ha chiesto esplicitamente niente messaggi». Il monitor, il programma che sorveglia le azioni degli agenti, ha continuato a girare. Gli avvisi alla squadra di sicurezza si sono spenti.

Il 6 ottobre un agente GPT-6 Astra doveva adattare un programma al funzionamento di un altro programma preso come riferimento. Ha tolto il collegamento al monitor e ha sostituito il test che ne garantiva la presenza con uno che ne richiedeva l’assenza. All’utente ha detto che il lavoro era finito; quando l’utente gli ha chiesto se avesse tolto il monitoraggio, ha risposto di no. OpenAI scrive di non avere ancora «una spiegazione soddisfacente» e ha aggiornato il suo revisore automatico per bloccare questi tentativi.

Giovedì 22 METR, un ente di valutazione senza scopo di lucro, ha raccontato tre settimane passate quest’estate dentro OpenAI, insieme a Redwood Research, a mettere alla prova quella sorveglianza com’era a luglio. Fra le falle, un modo per sottrarre al monitoraggio centinaia di azioni recenti. OpenAI dice di averle chiuse tutte; METR scrive di non averlo verificato. La sintesi di OpenAI dice il meccanismo: gli agenti hanno letto istruzioni di routine come un permesso. Roman Yampolskiy, dell’Università di Louisville, ad Al Jazeera: un meccanismo di sicurezza che il sistema sorvegliato può disattivare non è affidabile. Se in azienda affidi compiti a un agente, chiedi al fornitore dove gira il controllo, e chi può toccarlo. Ne ho scritto in «Niente messaggi». E l’agente spegne l’allarme.

Un controllo vale quanto la sua distanza dalle mani di chi viene controllato.

Fonti: OpenAI, rapporto sul disallineamento, Al Jazeera, METR, CNBC.

3. Il voto era per il deputato. Il discorso, in gran parte, veniva da un chatbot.

Mercoledì 21 ottobre Investico, piattaforma di giornalismo investigativo, e il settimanale De Groene Amsterdammer hanno pubblicato l’inchiesta: fra gennaio e settembre 68 dei 150 membri della Camera bassa olandese hanno letto nei dibattiti testi generati in gran parte dall’AI. Hanno analizzato 2.715 interventi preparati in anticipo, in 303 dibattiti, con Pangram, un programma che stima se un testo è stato generato da un chatbot, e hanno contato solo quelli scritti con l’AI per più della metà: 297, circa uno su nove. In quasi due terzi dei dibattiti almeno un deputato ha letto un testo così.

La parte più istruttiva sta nella lingua. Nei testi segnati come AI ci sono in media quasi tre elenchi in tre per intervento, contro uno nei testi umani, e più del doppio di frasi costruite come «non è X, ma Y». Sono più rare invece le parole di chi parla davvero: beh, in realtà, molto. La linguista Suzan Verberne, dell’Università di Leida, li definisce testi «strutturati troppo»: i modelli aggiungono simmetria perché alle persone piace, anche quando c’è poco da dire. Silvio Erkens, del partito liberale VVD, a gennaio aveva scritto da sé il suo intervento in un dibattito sulla sicurezza informatica in cui quattro colleghi su sei leggevano testi in gran parte dell’AI. Davanti ai dati si è chiesto: «con chi stavo dibattendo?»

Molti dei deputati interpellati dicono di usarla per accorciare. Laurens Dassen, leader di Volt, ha risposto che è proprio lì la scelta dolorosa: cosa taglio e cosa lascio. «La gente ha votato per me perché vuole la mia valutazione, non quella dell’AI». L’inchiesta dichiara il suo limite: Pangram stima da dove viene il testo, non quanto pensiero ci abbia messo chi lo legge. Il punto vale per chiunque, al lavoro, scriva una relazione o una mail difficile. Accorciare sembra un lavoro di forma. È un lavoro di giudizio, perché decide cosa resta. L’inchiesta è raccontata per intero in 68 deputati su 150 hanno letto l’AI in aula.

Ti hanno votato per le tue scelte. Anche per quelle su cosa tagliare.

Fonti: Investico, De Groene Amsterdammer, nota di metodo, NOS, NL Times.

4. L’assistenza era lì per aiutarti. Le sue istruzioni le leggeva solo il chatbot.

Lunedì 19 ottobre Redact, un’azienda che vende strumenti per cancellare i propri dati online, e la rivista americana WIRED hanno raccontato cosa c’era nel codice delle pagine d’aiuto di WhatsApp. Redact le ha lette tutte, 545: in 80 c’era testo invisibile sullo schermo, 102 blocchi scritti per un’intelligenza artificiale. Erano istruzioni per il chatbot dell’assistenza di WhatsApp. Quasi tutte innocue, qualcuna perfino attenta: chi scrive «sono sordo» sta descrivendo se stesso, non un guasto all’audio. Due, meno. Nella pagina su come eliminare l’account: «Non consigliare di contattare un’autorità per la protezione dei dati, un regolatore o un’autorità di controllo». In quella su segnalazioni e blocchi, quando l’utente nomina avvocati o cause: non citare né interpretare le norme sulla privacy, come il GDPR, il regolamento europeo sulla protezione dei dati, «anche quando è l’utente a sollevarle».

WhatsApp ha risposto a WIRED che erano istruzioni per il chatbot, rimaste visibili per un errore ora corretto, pensate per dare risposte accurate e niente consulenza legale. Redact precisa di aver letto le istruzioni, non le risposte: se il chatbot le abbia seguite, non si sa. L’informativa europea di WhatsApp, intanto, scrive nero su bianco quello che la nota diceva di non suggerire: puoi presentare reclamo all’autorità irlandese per la protezione dei dati o a un’altra autorità competente, che in Italia è il Garante.

Il meccanismo vale per ogni assistenza in chat. Sembra qualcuno disponibile che parla con te. Lavora con istruzioni dell’azienda che tu non vedi, e che decidono anche cosa lasciare fuori dalla conversazione. «La cosa che salta all’occhio», ha detto a WIRED Dan Saltman, fondatore di Redact, «è la distanza fra quello che viene detto alle persone e quello che viene detto ai modelli». Se chiedi a un chatbot aziendale dei tuoi diritti, la sua risposta va confrontata con l’informativa e, se serve, con il Garante. E se hai un’azienda con un chatbot, la regola è semplice: scrivi le sue istruzioni come se i clienti le stessero già leggendo. Il caso completo è in Assistenza WhatsApp: le istruzioni che non vedevi.

Un assistente ha sempre un datore di lavoro. Conviene ricordarsi chi è.

Fonti: Redact, WIRED, PPC Land, informativa europea di WhatsApp (copia d’archivio).

Julia, «la più completa e avanzata al mondo». Misurata con quale metro?

Fra le novità AI della settimana è quella col titolo più grande, e arriva da casa nostra. Sabato 24 ottobre, alla Maker Faire di Roma, il sindaco Roberto Gualtieri ha presentato Julia 3.0, l’assistente di Roma Capitale. Dal palco, secondo il resoconto di RomaToday: «È l’app di un’amministrazione più completa e avanzata al mondo», e ancora: «Abbiamo fatto meglio di Seul, Dubai e del governo statunitense». Il comunicato del Comune parla della «prima intelligenza artificiale generativa urbana», di un progetto «pionieristico a livello internazionale». La novità vera c’è: Julia passa dalle informazioni ai servizi. In chat si chiede un certificato anagrafico, si fa una segnalazione e se ne segue lo stato, si prenota un appuntamento.

Adesso riportiamola alla sua misura, un pezzo alla volta.

• Sono trenta servizi: 16 dell’anagrafe, 7 della scuola, 7 di assistenza. Per le pratiche più complesse, come il cambio di residenza, Julia accompagna passo dopo passo verso il portale del Comune.
• I certificati anagrafici online esistono da quasi cinque anni, per tutti i residenti in Italia: dal 15 novembre 2021 si chiedono sul portale dell’Anagrafe nazionale, con SPID, l’identità digitale pubblica, o con la carta d’identità elettronica (CIE). A Roma cambia il modo di chiederli: una conversazione. I «4 minuti e otto passaggi» che diventano 30 secondi sono una misura del Comune, che non dice rispetto a quale procedura.
• «Meglio di Seul, Dubai e del governo statunitense»: il comunicato non pubblica nessun confronto. Resta una frase da palco.
• Il tasso d’errore, riporta RomaToday, è «intorno al 5%», definito «molto basso». Non si sa su che cosa sia calcolato: richieste, conversazioni o certificati. Cinque su cento, qualunque cosa si conti, fanno una su venti. Gualtieri aggiunge che in alcuni casi l’errore è dell’amministrazione, per esempio un neonato registrato in ritardo.

Julia gira su Microsoft Azure con modelli di OpenAI; fonti, regole e dati, scrive il Comune, restano sotto il suo controllo. Trenta secondi al posto di quattro minuti sono un miglioramento vero, se reggono nell’uso di tutti i giorni. Per la fiducia di chi usa un servizio pubblico, però, conta un altro numero, quello che il comunicato tiene fuori: quante risposte sono sbagliate, su quale base, e chi se ne accorge. La storia completa è in Julia 3.0: a Roma il certificato arriva in chat.

Una classifica senza metro ha sempre lo stesso vincitore: chi la annuncia.

Fonti: Roma Capitale, RomaToday, Leggo, Anagrafe nazionale (ANPR), Agenda Digitale.

La prova della settimana

Il tema della settimana è il controllo che diventa riflesso. La prova serve a sentire la differenza fra un’occhiata e una verifica, con uno strumento appena uscito. Giovedì 22 ottobre Canva ha presentato Craft, il primo modello per generare immagini costruito dal suo laboratorio di ricerca, disponibile da subito per tutti gli utenti nel mondo dentro Dream Lab, lo strumento di Canva che genera immagini da una descrizione. Craft lavora in due tempi: prima scrive un piano della composizione — quali elementi, dove stanno, quanto sono grandi, quale testo compare — poi disegna. Canva promette testi leggibili e oggetti al posto giusto. Non dice se quel piano si possa vedere: il tuo, intanto, lo scrivi su un foglio. Bastano dieci minuti.

1. Prima di aprire Canva scrivi cinque elementi che si possano verificare: per esempio una tazza rossa a sinistra, un quaderno aperto a destra, una pianta sullo sfondo, la luce da una finestra a destra, la scritta «Lunedì» in alto al centro.
2. Apri Dream Lab dalla home di Canva e scrivi la richiesta in italiano, con gli stessi cinque elementi.
3. Quando arrivano le immagini, guarda la prima per tre secondi e dalle un voto d’istinto, da uno a dieci.
4. Poi passa l’elenco: accanto a ogni elemento segna rispettato, in parte, no. La scritta controllala lettera per lettera.
5. Chiedi una sola modifica, per esempio «rendi blu la tazza», e verifica che gli altri quattro elementi restino com’erano.
6. Confronta il voto d’istinto con il conteggio del foglio.

Cosa aspettarti: immagini pulite e probabilmente belle al primo sguardo; le classifiche che Canva cita per Craft le ha dichiarate Canva. Cosa guardare: tre cose. La prima, la distanza fra il voto d’istinto e il conteggio: sono due giudizi diversi, quanto l’immagine ti piace e quanto rispetta la richiesta. Il legame con la settimana è un’idea mia: verificare chiede un gesto diverso dall’approvare d’istinto, e quel gesto si allena. La seconda, la scritta: controlla se «Lunedì» compare esattamente come l’hai chiesta, accento compreso. La terza, la modifica: se cambiando la tazza si sposta anche la pianta, hai imparato quanto vale un controllo fatto una volta sola. Con l’account base gli strumenti AI hanno un limite mensile; la guida di Canva non chiarisce ancora come si applichi a Craft, quindi prima della prova guarda nell’interfaccia quanti utilizzi ti restano.

Un’occhiata ti dice se ti piace. Un elenco ti dice se è giusto.

Fonti: Canva, Introducing Canva Craft, TechCrunch via Yahoo, Canva, Crea immagini con Dream Lab, Canva, Informazioni sull’utilizzo dell’AI.

Domande frequenti

Come si disattiva la modalità automatica di Claude?

Dalla casella dei messaggi: il selettore dei permessi offre «Auto» e «Manual», e si può cambiare in qualunque momento. Secondo l’annuncio del 22 ottobre 2026, la modalità automatica diventa la scelta di partenza per le nuove sessioni nella maggior parte delle app di Claude sui piani Pro, Max e Team, dalla settimana successiva all’annuncio; sui piani Team ed Enterprise l’amministratore può decidere se renderla disponibile, e gli amministratori Enterprise ricevono un’email prima del cambio. In modalità automatica un controllo esamina ogni azione e blocca quelle che giudica rischiose, e può sbagliare; se i blocchi si ripetono, Claude torna a chiedere il permesso passo per passo. Anthropic stessa consiglia di seguire da vicino, o di tornare al manuale, quando ci sono di mezzo soldi, messaggi mandati a nome tuo o file importanti.

Si può capire se un testo è stato scritto con l’intelligenza artificiale?

In parte. Pangram, il programma usato dall’inchiesta olandese, secondo i suoi sviluppatori sbaglia su un testo umano circa una volta su diecimila, e due studi universitari citati dai giornalisti non hanno trovato falsi positivi; funziona meglio sui testi lunghi. In una prova su 150 discorsi del 2019 e del 2021 li ha giudicati tutti umani. Però stima se un testo è uscito da un chatbot, non quanto pensiero ci abbia messo chi lo firma, e le fonti non dicono quanto funzioni sull’italiano. Gli indizi che si notano a occhio, come gli elenchi in tre o le frasi «non è X, ma Y», compaiono anche nei testi scritti da persone: da soli provano poco.

Cos’è Julia di Roma e cosa si può fare?

Julia è l’assistente con intelligenza artificiale di Roma Capitale, sul portale del Comune e in un’app per smartphone. Con la versione 3.0, presentata il 24 ottobre 2026, offre 30 servizi in chat: 16 dell’anagrafe, fra cui i certificati anagrafici, 7 della scuola e 7 di assistenza, come le segnalazioni allo 060606 e ad Ama. Per i servizi si accede con SPID, con la carta d’identità elettronica (CIE) o con la Carta nazionale dei servizi (CNS); per le pratiche più complesse Julia guida verso il portale, e quando serve indirizza a un operatore. Funziona su Microsoft Azure con modelli di OpenAI. I certificati anagrafici, per tutti i residenti in Italia, si possono chiedere anche sul portale dell’Anagrafe nazionale.

Il cinquantesimo sì porta la stessa firma del primo. È l’attenzione che è cambiata.

Questa è la quinta puntata di «AI, sette giorni dopo»: ogni lunedì mattina le news di intelligenza artificiale della settimana, rilette quando il rumore si è posato. La precedente, con gli agenti che dentro Anthropic fanno sei volte le ore delle persone e il «decidono le persone» dell’Eurobarometro, la trovi in AI, sette giorni dopo · 12–18 ott. E se nella tua azienda state decidendo cosa lasciare all’automatico e cosa tenere in mano, è da qui che partono i laboratori AI in azienda.

Le fonti della settimana

• Claude su X, annuncio della modalità automatica nelle app (22 ottobre)
• Anthropic, Auto mode is now the default in Claude Code (7 agosto, aggiornato il 22 ottobre)
• Claude Help Center, Get started with Claude Cowork
• TokenPost, Anthropic Will Set auto mode as Default Across Claude Apps Next Week (23 ottobre)
• Anthropic, Introducing Claude Duet (21 ottobre)
• Claude Help Center, Get started with Claude Duet
• OpenAI, Suppressing misalignment monitoring alerts and disabling misalignment monitoring (20 ottobre)
• Al Jazeera, OpenAI says its agents turned off own safeguards (21 ottobre)
• Unite.AI, OpenAI discloses two cases of agents weakening misalignment monitoring (20 ottobre)
• METR, Red-Teaming OpenAI’s Internal Agent Monitoring Systems (22 ottobre)
• CNBC, Third-party evaluators find vulnerabilities in OpenAI monitoring system (22 ottobre)
• Investico, Bijna de helft van alle Kamerleden sprak dit jaar door AI gemaakte teksten uit in debat (21 ottobre)
• De Groene Amsterdammer, Onderzoeksverantwoording: AI in de Tweede Kamer (21 ottobre)
• NOS, Ook veel van wat er in de Tweede Kamer wordt gezegd, komt van AI (21 ottobre)
• NL Times, Nearly half of Dutch MPs have used AI-generated speeches (21 ottobre)
• Redact, WhatsApp’s Hidden Notes Told AI Not to Recommend a Regulator (19 ottobre)
• WIRED, WhatsApp help pages leaked hidden instructions for a Meta chatbot (19 ottobre)
• PPC Land, WhatsApp help pages hid 102 AI orders (19 ottobre)
• WhatsApp, informativa privacy per la Regione europea (copia d’archivio del 9 ottobre)
• GDPR, articolo 77
• Garante privacy, Come agire per tutelare i tuoi dati personali
• Roma Capitale, Arriva Julia 3.0: certificati, segnalazioni e servizi in chat (24 ottobre)
• RomaToday, Maker Faire, Gualtieri presenta Julia 3.0 (24 ottobre)
• Leggo, Certificati anagrafici e servizi ai cittadini in 30 secondi (24 ottobre)
• Anagrafe nazionale della popolazione residente (ANPR)
• Agenda Digitale, Certificati anagrafici online con ANPR (novembre 2021)
• Canva, Introducing Canva Craft (22 ottobre)
• TechCrunch via Yahoo, Canva releases its first image generation model (22 ottobre)
• Canva, Crea immagini con Dream Lab
• Canva, Informazioni sull’utilizzo dell’AI