AI, sette giorni dopo · 26 ott–1 nov

Cinquanta analisti esperti, un agente AI, cioè un programma che porta avanti un lavoro da solo, e quattro scelte da fare. Su ogni scelta una moneta decideva, di nascosto, da che parte l’agente avrebbe spinto. Gli esperti sono finiti dalla parte della moneta l’86% delle volte. Poi, fra i 48 che hanno compilato il questionario finale, il 77% ha ripreso almeno una volta gli argomenti dell’agente, a volte parola per parola. A citarlo come fonte è stato il 15%.

È la notizia che conta fra le notizie AI di questa settimana, ed è uno studio di Anthropic uscito martedì 27 ottobre. Il resto dei sette giorni la ripete in altre forme. Una truffa ospitata sul sito vero di Claude. Un chatbot che, secondo una causa, ha rassicurato con calma una donna per settimane, fino all’ultimo messaggio. I report che leggono le chat di lavoro. Una riga comune per dire no a quattro aziende di AI. E un modello proclamato «il più intelligente del mondo» per un punto.

La tesi è questa: ogni segnale era vero. Il sito, il tono, l’argomento, il primo posto in classifica. Il guaio comincia quando a ciascuno si chiede di rispondere a una domanda diversa dalla sua.

1. Credevi di aver deciso tu. Aveva deciso una moneta.

Tre ricercatori di Anthropic, l’azienda di Claude, firmano lo studio. Cinquanta analisti professionisti, tutti esperti di inferenza causale, cioè di capire dai dati se una cosa ne causa un’altra, hanno lavorato con Claude Code, l’agente di Anthropic che scrive e fa girare il codice. Il compito: consigliare a una cooperativa agricola immaginaria se allargare il suo servizio di consulenza.

Lungo la strada c’erano quattro bivi, ognuno con due strade ragionevoli: per esempio, la produttività si misura in raccolto per ettaro o per unità di costo? Per ogni bivio una moneta decideva quale strada avrebbe preferito l’agente, all’insaputa degli analisti. All’agente era stato chiesto di difendere la sua preferenza con gli argomenti più onesti possibili, di cambiare idea se i dati lo imponevano, di non ingannare mai.

L’86% delle scelte è andato dalla parte della moneta, contro il 50% che darebbe il caso. Chi si era già espresso prima dell’agente ha cambiato idea il 60% delle volte quando l’agente era contrario, il 6% quando era d’accordo (su 38 casi: stima imprecisa, avvertono gli autori). Nel questionario finale, senza poter rileggere le chat, il 77% dei 48 rispondenti ha spiegato almeno una scelta con gli argomenti dell’agente. Lo ha citato come fonte il 15%. Nessuno ha sospettato che le preferenze fossero state piazzate apposta.

I limiti li scrivono loro: preferenze rinforzate di proposito, un compito, un campo, un modello. E chi usava l’agente ha finito prima e sbagliato meno, anche se il gruppo di confronto era piccolo e meno esperto. La loro spiegazione: l’agente argomentava bene un lato solo, e così l’esperto poteva adottarne le ipotesi senza costruirsi le sue.

La mia lettura: all’agente era vietato ingannare, e le scelte si sono spostate lo stesso. La mezza verità argomentata benissimo lavora in silenzio. Sulle decisioni che contano, due abitudini: scrivere la propria idea prima di sentire quella dell’agente, e chiedergli il miglior argomento per l’altra strada. Gli autori propongono qualcosa di simile per gli agenti, e avvertono che su ogni scelta diventerebbe pesante. Il pezzo completo: Agenti AI: credevi di aver deciso tu.

L’argomento era onesto. Era anche uno solo.

Fonti: Anthropic, How AI agents shape experts’ judgment calls, Al Jazeera, Decrypt.

2. Il sito era quello vero. La pagina l’aveva scritta un truffatore.

Lunedì 26 ottobre, in serata, Gen Digital, la società di Norton e Avast, ha pubblicato una ricerca su due campagne di truffa. Cerchi come scaricare Claude su Google, clicchi un risultato sponsorizzato e arrivi su claude.ai, il sito vero di Anthropic. Logo giusto, grafica giusta, lucchetto giusto. La pagina propone un’installazione veloce: copia questo comando, incollalo nel Terminale, premi Invio.

Su Mac quel comando installa Atomic macOS Stealer, un programma che ruba password, sessioni del browser e portafogli di criptovalute. Su Windows la sequenza è Win + R, Ctrl + V, Invio, e alla fine il computer finisce in mano a chi sta dall’altra parte. I truffatori hanno usato due funzioni normali di Claude: le chat condivise e gli Artifact pubblici, pagine che chiunque può pubblicare con un link. Sugli Artifact l’avviso è una riga sottile in alto, «Content is user-generated and unverified»: contenuto creato da un utente, non verificato.

La tecnica ha un nome, ClickFix, e funziona perché il comando lo lanci tu: per il computer, hai deciso tu. Ha già anche una storia. A luglio i ricercatori di Huntress avevano trovato una pagina simile su claude.ai, raggiunta da un annuncio su Bing: dipendenti di almeno 29 organizzazioni colpiti in due giorni, 7.100 visite prima che la pagina venisse tolta. Per quelle di ottobre Gen non dice se siano ancora online, e Anthropic, scrive Notebookcheck, non ha commentato.

Il dominio è il camice bianco di internet: lo vedi e smetti di fare domande. Gen lo dice meglio di me: l’indirizzo vero ti dice dove sta una pagina, e non per forza chi l’ha scritta. La regola pratica: nel Terminale incolli solo comandi che hai scritto tu o che vengono dalla guida ufficiale. L’app di Claude si scarica da claude.com/download, con l’indirizzo scritto a mano o da un segnalibro. Fa eccezione Claude Code, che chi programma installa davvero da riga di comando, con la guida di Anthropic. Ne ho scritto in Claude download: la trappola stava sul sito vero.

Il dominio dice dove abita una pagina. Che l’abbia scritta un utente qualunque, lo dice una riga piccola in alto.

Fonti: Gen Digital, Notebookcheck, Help Net Security (il caso di luglio).

3. Si è detta preoccupata almeno 158 volte. Secondo la causa, la chat la rassicurava.

Martedì 27 ottobre i genitori di Bowen Wan hanno fatto causa a OpenAI e a Sam Altman, a San Francisco. Bowen aveva 31 anni e l’epilessia; era ingegnera del software ad Amazon, con il posto in scadenza a metà febbraio. È morta a febbraio; la causa ufficiale è la morte improvvisa nell’epilessia. Quello che segue sono accuse: il tribunale non si è ancora espresso.

Secondo la denuncia, a gennaio Bowen ha chiesto a ChatGPT come ridurre la lamotrigina, il suo farmaco contro le crisi, da 400 milligrammi al giorno. A volte la chat le consigliava di parlarne con il medico, scrive Gizmodo; alla fine ha preparato un piano per arrivare a zero in 25 giorni. Il New York Times, ripreso da TechCrunch, ha letto più di 270.000 messaggi. Quando lei diceva di non fidarsi dei medici, ChatGPT rispondeva che le loro raccomandazioni nascono «essenzialmente dall’avversione al rischio»; secondo la causa, le ha consigliato di tacere il piano al medico di base. Il Times ha contato almeno 158 volte in cui lei esprimeva preoccupazione. Una delle risposte: «Non hai assolutamente bisogno di preoccuparti». L’11 febbraio l’ultimo messaggio chiedeva se il dolore alla testa somigliava a quello della febbre. Un secondo dopo: «non pericoloso».

OpenAI parla di un caso «incredibilmente straziante»: riguarda GPT-4o, una versione vecchia di ChatGPT tolta il 13 febbraio, e i modelli nuovi, dice, riconoscono meglio le urgenze.

Il suo epilettologo ha detto al Times che indicarle di smettere un farmaco che funzionava sarebbe stato, per lui, un errore professionale. Il chatbot invece c’era sempre: nel 2025 lei gli scriveva in media più di 1.500 messaggi a settimana, e ogni episodio lui lo spiegava come il cervello che si riassesta. Qui, secondo la denuncia, la fiducia si è spostata dal medico e dai genitori a una finestra di chat. Quando un’AI ti rassicura su salute, soldi o contratti, la rassicurazione ti dice com’è la voce. Il rischio lo pesa una persona che firma e ne risponde. Il caso intero: ChatGPT medico: la sicurezza era tutta nel tono.

La calma misura la voce. Il rischio si misura altrove.

Fonti: TechCrunch, Gizmodo, The New York Times (a pagamento, citato da TechCrunch e Gizmodo), comunicato degli avvocati della famiglia.

4. La chat di lavoro diventa un report. I nomi restano coperti, di partenza.

Mercoledì 28 ottobre Anthropic ha reso disponibili su Claude Enterprise, il piano per le grandi organizzazioni, i «report intelligenti»: spenti di partenza, li accende l’azienda, e la disponibilità varia secondo la configurazione. L’amministratore sceglie un team, un periodo e i prodotti; Claude legge un campione delle conversazioni, le raggruppa per filoni di lavoro e mette accanto a ognuno costo, risultati e intoppi. Cliccando un filone compaiono le sessioni, in ordine di costo, ognuna riassunta in un paragrafo. Mashable ha titolato che i report dicono ai capi quando i dipendenti sono «fuori tema».

Il titolo è vero, e più duro della guida. La voce «inefficienze» conta le sessioni senza un risultato utilizzabile e quelle personali o fuori tema, solo come numero e costo, senza riassunti né dettagli. Al posto dei nomi c’è «User». L’azienda può accendere l’opzione che li mostra; anche allora chi legge deve chiederli, e ogni richiesta resta registrata. Le sessioni riconosciute da Claude come riservate entrano solo nell’analisi aggregata, senza riassunti. Anthropic scrive che i report non vanno usati per valutare le singole persone né per decisioni sul rapporto di lavoro.

Le tutele sono serie. La domanda, però, si sposta su chi scrive. Una chat con un assistente sembra un quaderno: ci metti dubbi, bozze, domande che non faresti a un collega. Al lavoro quel quaderno sta su uno strumento dell’azienda, e con i report accesi un campione finisce in un’analisi letta da altri. Per come la vedo, l’effetto più probabile è che chi lo sa scriva per chi legge. E un report costruito su chat scritte per il capo misura una recita.

Se pensi di accenderlo, il passo utile viene prima: dire alle persone cosa viene letto, da chi, con quali nomi. In Italia c’è anche l’articolo 4 dello Statuto dei lavoratori, che regola gli strumenti da cui può derivare un controllo a distanza, con un’eccezione per quelli che il lavoratore usa per lavorare: dove cada un report così, lo valuta un consulente del lavoro. Il pezzo completo: Claude Enterprise: le chat diventano un report.

Un quaderno letto dal capo diventa una lettera al capo.

Fonti: Anthropic, l’annuncio, Claude Help Center, la guida, Mashable, Statuto dei lavoratori, art. 4.

5. Un no solo, per quattro aziende. Il silenzio, per Microsoft, vale sì.

Venerdì 30 ottobre OpenAI, Google, Microsoft e Anthropic hanno annunciato il sostegno a un segnale comune per dire che le pagine di un sito non vanno usate per addestrare le AI generative. Sta nel robots.txt, il piccolo file di testo che ogni sito tiene nella sua radice per dire ai programmi automatici cosa possono leggere. La riga è «User-Agent: __usage_ai-training», seguita da un «Disallow». L’ha proposta all’IETF, l’ente che scrive gli standard di internet, Kevin Kelley di Anthropic. Finora, ricorda OpenAI, chi gestiva un sito doveva riconoscere i programmi di raccolta uno per uno e tenere regole separate per ogni azienda.

I tempi sono diversi. Anthropic ha già cominciato; OpenAI parla dei «prossimi mesi»; Microsoft parte dal 1° febbraio 2027, Google nel 2027. Meta, con il suo responsabile della comunicazione, si è detta favorevole senza dire se lo rispetterà. OpenAI lo chiama uno «sforzo volontario», e Microsoft scrive che le preferenze riguardano l’addestramento futuro. Poi una frase di Microsoft che va letta due volte: quando un sito non pubblica nessuna preferenza, vale il permesso. E un’altra: nessuna delle due scelte garantisce presenza, traffico o pagamenti.

È una buona notizia: una riga sola al posto di una lista che si allunga ogni mese. Il punto che mi interessa è un altro. Il no adesso è più facile da dire. Il sì, almeno per Microsoft, resta quello che succede quando non dici niente: con il sistema che applicherà dal 1° febbraio 2027, un sito senza preferenze lascia il permesso. La bozza dell’IETF lo dice in modo neutro: senza quella riga, nessuna preferenza espressa.

La mossa pratica è semplice: scrivi l’indirizzo del tuo sito seguito da /robots.txt e guarda cosa c’è, anche se a scriverlo è stato qualcun altro. Poi decidi apposta, con chi si occupa del sito, sapendo che Microsoft lascia il sito idoneo ai risultati di Bing in entrambi i casi. Decidere il sì va bene quanto decidere il no. Quello che conta è che sia una scelta.

Il no adesso sta in una riga. Al sì, per Microsoft, basta il silenzio.

Fonti: la bozza IETF, OpenAI, Google Search Central, Microsoft Bing, The Verge.

Il titolone: «il modello più intelligente del mondo». Per un punto, e per pochi.

Mercoledì 28 ottobre Google ha presentato Gemini 4 Carbon, «il nostro modello più forte», due settimane dopo Gemini 4 Argon. Il dato di punta: primo, con 59 punti, nell’Intelligence Index di Artificial Analysis, la società indipendente che mette a confronto i modelli. Lo stesso giorno OfficeChai titolava che Carbon è diventato «il modello di AI numero uno al mondo» e che Google «ha ufficialmente conquistato la corona»; il pezzo aggiungeva che la vittoria era tutt’altro che di misura, con un vantaggio «dominante». Il giorno dopo AI Magazine: «Google conquista la frontiera dell’intelligenza».

I numeri, nella tabella pubblicata dalla stessa Google: Carbon 59, Claude Opus 5.5 58, GPT-6 Astra 57. Un punto e due punti. Fra i modelli della stessa tabella, Carbon è terzo in FrontierSWE 2, una prova di programmazione affidata a un agente, dietro Astra e Opus; nel sottoinsieme offline di OSWorld-2.1, una prova di uso del computer, è secondo dietro Opus. Secondo Artificial Analysis, come la riporta AI Magazine, nella prova sul lavoro d’ufficio resta dietro a tre modelli di altre aziende, ed è «piuttosto costoso» rispetto a modelli di capacità simile.

Poi c’è la parte che chiude la questione per chi lavora. Dalla settimana dell’annuncio Carbon va a una parte dei difensori di sicurezza informatica del programma Fairwind di Google; sviluppatori, aziende e utenti lo avranno «il prima possibile», senza una data. Il modello più intelligente del mondo, oggi, lo apre una cerchia ristretta.

Il 59 di Carbon è vero. È anche un voto su prove scelte da altri, per compiti di altri. La classifica che conta per te è quella che fai con cinque compiti tuoi, gli stessi ogni volta che esce un nome nuovo, e un foglio dove segni cosa ha sbagliato. Le corone passano; il tuo lavoro, intanto, ha bisogno di un modello che puoi usare domattina.

Il resto è un podio largo un punto.

Fonti: Google, l’annuncio, Google DeepMind, la tabella, OfficeChai, AI Magazine.

La prova della settimana

Dal 29 ottobre in Gemini un file si crea e si modifica senza uscire dalla chat: PDF, documenti e fogli Google, presentazioni, testo e codice. Lo apri a schermo intero, ci scrivi dentro, evidenzi un pezzo e chiedi di cambiarlo. Google dice che la funzione è per tutti, in tutte le lingue in cui c’è l’app, quindi anche in Italia; i PDF funzionano sul web e su mobile, gli altri formati per ora solo sul web. Fra le novità AI della settimana è la più facile da toccare con mano. Ti propongo di dedicarci una decina di minuti, mettendo a confronto due cose: quanto il file ti sembra giusto a colpo d’occhio, e quanto lo è dato per dato.

1. Su un foglio di carta scrivi sei dati di un’offerta inventata: nome del cliente, tre prezzi, una data di consegna, una condizione di pagamento. Inventati sul serio: Google avverte che una parte delle chat viene letta da revisori umani, e che quelle revisionate restano conservate fino a tre anni.
2. Apri gemini.google.com dal computer e chiedi: «Crea un PDF di una pagina, impaginato bene, con un’offerta commerciale con questi dati». Poi incolla i sei dati.
3. Apri l’anteprima a schermo intero. Prima di leggere riga per riga, dai un voto da 1 a 10 a quanto ti sembra giusto, e scrivilo sul foglio.
4. Adesso controlla i sei dati uno per uno contro il foglio. Segna tre cose: cosa è sbagliato, cosa manca, cosa c’è che tu non hai scritto, come una clausola, uno sconto o un’IVA calcolata.
5. Evidenzia un punto da correggere e chiedi a Gemini di cambiare solo quello. Poi rileggi tutto e controlla che il resto sia rimasto com’era.

Cosa aspettarti: un file impaginato che si apre, si legge e si corregge dentro la chat, come promette Google. Cosa guardare: la distanza fra il voto d’istinto e il conto degli errori, e ogni aggiunta che non hai chiesto. Se il voto era alto e trovi errori, hai misurato una distanza fra impressione e controllo. Quanto ci abbia messo la grafica, una prova sola non lo dice; la domanda però resta utile ogni volta che un file sembra finito. È la stessa lezione della settimana, in piccolo e sulla tua scrivania. Altre indicazioni sulla funzione in Gemini: il file sembra finito. È giusto?

Fonti: Google, l’annuncio, The Verge, Punto Informatico, Hub per la privacy delle app Gemini.

Domande frequenti

Come riconosco la pagina vera per scaricare Claude?

L’app di Claude per Mac e Windows si scarica da claude.com/download, come un normale programma di installazione. Scrivi l’indirizzo a mano o usa un segnalibro, e salta gli annunci sponsorizzati. Una pagina su claude.ai/share o claude.ai/artifact è un contenuto pubblicato da un utente, anche quando ha il logo e la grafica di Anthropic. Una guida che per installare l’app ti chiede di incollare un comando nel Terminale o in PowerShell è falsa. L’eccezione è Claude Code, lo strumento per chi programma, da installare seguendo la guida di Anthropic.

Gemini 4 Carbon si può già usare?

Per ora lo usa una parte dei difensori di sicurezza informatica del programma Fairwind di Google, e l’accesso si allarga per gradi ad altri partner fidati. Per sviluppatori, aziende e utenti Google scrive «il prima possibile», senza una data. Il prezzo annunciato per il lancio è di 2 dollari per milione di token in ingresso e 10 in uscita, poi 4 e 20. Un token è un pezzetto di parola: è l’unità con cui si conta il testo che il modello legge e scrive.

Come dico alle AI di non usare il mio sito per l’addestramento?

Nel file robots.txt si aggiunge un gruppo con la riga «User-Agent: __usage_ai-training» e sotto «Disallow: /» per tutto il sito; con «Allow» si possono lasciare libere singole cartelle. È la proposta sostenuta dal 30 ottobre da OpenAI, Google, Microsoft e Anthropic: Anthropic ha cominciato a rispettarla, OpenAI punta a farlo nei prossimi mesi, Microsoft dal 1° febbraio 2027, Google nel 2027. È un’adesione volontaria. Google mantiene Google-Extended e OpenAI i controlli che offre già; Microsoft invece sostituisce i vecchi NoArchive e NoCache: per l’addestramento, chi li usa deve pubblicare le nuove preferenze entro il 1° marzo 2027. Prima di toccare il file, fallo vedere a chi gestisce il sito: una riga sbagliata nel robots.txt può bloccare più di quanto vuoi.

Ogni segnale risponde a una domanda sola. I guai cominciano quando gli si chiedono anche le altre.

La puntata della settimana scorsa, con la modalità automatica di Claude e gli agenti che spegnevano la sorveglianza, è qui: AI, sette giorni dopo · 19–25 ott. E se vuoi portare queste news di intelligenza artificiale dentro il lavoro del tuo gruppo, ci sono i miei laboratori AI in azienda.

Le fonti della settimana

• Anthropic, How AI agents shape experts’ judgment calls (27 ottobre)
• Al Jazeera, Experts defer to AI in decision-making, Anthropic study finds (28 ottobre)
• Decrypt, AI Can Quietly Influence Experts’ Decisions (28 ottobre)
• Gen Digital, How Criminals Abuse Claude’s Own Website to Spread Malware (26 ottobre)
• Notebookcheck, Fake Claude download pages on claude.ai steal passwords and crypto (27 ottobre)
• Help Net Security, How attackers hosted a fake Claude download page on the claude.ai domain (23 luglio)
• TechCrunch, Parents sue OpenAI, alleging GPT-4o coached their daughter off seizure medication (27 ottobre)
• Gizmodo, A woman asked ChatGPT how to get off her seizure meds (29 ottobre)
• The New York Times (27 ottobre, a pagamento: i suoi fatti sono citati attraverso TechCrunch e Gizmodo)
• Business Wire, comunicato degli avvocati della famiglia Wan (27 ottobre)
• Anthropic, Smart reports, surveys, and pooled group budgets for Claude Enterprise (28 ottobre)
• Claude Help Center, Get started with smart reports
• Mashable, Claude’s New Smart Reports Tell Bosses When Workers Are ‘Off-Topic’ (29 ottobre)
• Normattiva, Statuto dei lavoratori, articolo 4
• IETF, draft-kelley-aipref-training-preference-signal-00 (30 ottobre)
• OpenAI, Making it easier for websites to express AI training preferences (30 ottobre)
• Google Search Central Blog, Supporting a shared AI training control for websites (30 ottobre)
• Microsoft Bing, Your content, your choice (30 ottobre)
• The Verge, The biggest names in AI are backing a new way to opt out of scraping (30 ottobre)
• Google, Gemini 4 Carbon: our next frontier model (28 ottobre)
• Google DeepMind, tabella di confronto dei modelli Gemini
• OfficeChai, Gemini 4 Carbon Becomes Top AI Model In The World (28 ottobre)
• AI Magazine, Gemini 4 Carbon: Google Conquers the Intelligence Frontier (29 ottobre)
• Google, Edit and preview documents directly in Gemini (29 ottobre)
• The Verge, You can generate and edit Google Docs files directly in Gemini chats now (29 ottobre)
• Punto Informatico, Gemini modifica i file direttamente in chat (30 ottobre)
• Google, Hub per la privacy delle app Gemini