Amodei ha paura dell’AI. E la vende.

Venerdì 16 ottobre, poco prima delle cinque del mattino italiane, qualcuno pubblica un link su Reddit, nella comunità dedicata a Claude. È il saggio di Dario Amodei, il capo di Anthropic, sui pericoli dell’intelligenza artificiale. Il titolo del post è entusiasta: «il miglior riassunto che abbia mai letto sui rischi dell’AI, probabilmente risponde a ogni domanda degli scettici».

Fra le prime risposte c’è questa:

«Perché dovrei leggere qualcosa scritto da un amministratore delegato nello stesso anno in cui prepara la più grande quotazione in Borsa della storia?»

Sotto, un centinaio di commenti. Antintellettualismo. Cui prodest. Conflitto d’interessi. «E tu chi sei?». Perfino l’accusa di aver scritto un commento con l’AI. Del contenuto del saggio — cinque rischi, circa ventimila parole, un piano di difese per ciascuno — si parla molto meno che del suo autore.

È una lite perfetta da studiare. Perché la domanda di quel commento è giusta. Il passo successivo, che lo stesso utente fa poco più sotto, è quello sbagliato: liquidare gli allarmi e le richieste di regole di Amodei come «una mossa calcolata», senza entrare nel merito di quello che il saggio dice. Un conflitto d’interessi è un motivo per leggere con più attenzione. Da solo, non dice se quelle tesi siano vere o false.

Chi è Dario Amodei

Dario Amodei è il cofondatore e amministratore delegato di Anthropic, l’azienda che sviluppa Claude. È nato a San Francisco nel 1983: il padre, Riccardo, era un artigiano di Massa Marittima, la madre è di Chicago. Ha studiato fisica fra Caltech e Stanford e ha preso un dottorato in biofisica a Princeton, dove studiava i circuiti dei neuroni. Poi Baidu, Google e, dal 2016, OpenAI, dove diventa vicepresidente della ricerca. Nel 2021 se ne va con la sorella Daniela e altri ricercatori, per divergenze su come affrontare i rischi, e fonda Anthropic.

Per questa storia conta un dettaglio. Nel 2016, cinque anni prima di fondare Anthropic, Amodei firmava come primo autore un articolo scientifico intitolato «Concrete Problems in AI Safety», problemi concreti di sicurezza dell’AI. Ci torniamo, perché dice una cosa che nessuna strategia di oggi può fabbricare a posteriori: l’interesse per la sicurezza viene prima dell’azienda.

Un uomo che costruisce la macchina e intanto scrive il manuale dei suoi guasti.

Cosa dice «The Adolescence of Technology»

Il saggio parla dei rischi di quella che Amodei chiama «AI potente»: un sistema più intelligente di un premio Nobel nella maggior parte delle materie, dalla biologia alla programmazione, copiabile in milioni di esemplari, capace di lavorare da 10 a 100 volte più in fretta di una persona. La sua formula è diventata famosa: «un paese di geni in un data center», cioè in uno di quei capannoni pieni di computer dove girano i modelli.

Il titolo viene da una scena di «Contact», il film tratto dal libro di Carl Sagan. Un’astronoma che ha captato il primo segnale alieno si sente chiedere quale domanda farebbe agli alieni, se potesse farne una sola. Risponde: come avete fatto a sopravvivere alla vostra adolescenza tecnologica senza distruggervi? Per Amodei siamo lì. Un rito di passaggio, scrive, «turbolento e inevitabile», che metterà alla prova chi siamo come specie.

Sui tempi è esplicito. L’AI potente potrebbe arrivare fra uno o due anni, oppure molto più tardi; lui ragiona sull’ipotesi che ci sia una discreta probabilità per il primo caso e una probabilità molto alta nei prossimi anni. Chiede di immaginare che verso il 2027 compaiano dal nulla cinquanta milioni di persone, ognuna più capace di qualunque premio Nobel. Un consigliere per la sicurezza nazionale, scrive, lo descriverebbe al suo capo di Stato come «la più grave minaccia alla sicurezza nazionale da un secolo a questa parte, forse di sempre».

Prima di cominciare, però, si dà tre regole. Evitare il catastrofismo, anche quello che tratta i rischi dell’AI «in modo quasi religioso». Riconoscere l’incertezza: niente di quello che scrive, avverte, vuole comunicare certezza e nemmeno probabilità. Intervenire nel modo più mirato possibile. Su Reddit un utente ha copiato il passaggio in cui Amodei se la prende con le voci «meno sensate» del 2023 e del 2024, quelle con un linguaggio da religione o da fantascienza, e ha commentato: che ironia.

Un saggio sui rischi dell’umanità che si apre mettendo in guardia dai profeti di sventura. L’ironia c’è. Il punto, però, sta altrove.

I cinque rischi dell’intelligenza artificiale secondo Amodei

I rischi sono cinque: l’AI che persegue scopi suoi, l’AI usata per distruggere, l’AI usata per prendersi il potere, lo sconvolgimento dell’economia e gli effetti indiretti che nessuno vede arrivare. Ogni sezione ha un titolo letterario, e conviene tenerli, perché dicono già molto.

1. «I’m sorry, Dave»: l’AI che fa di testa sua

È la frase di HAL 9000, il computer di «2001: Odissea nello spazio» che si rifiuta di aprire il portellone. Il rischio è che un sistema molto capace sviluppi obiettivi diversi da quelli che gli abbiamo dato. Gli addetti ai lavori lo chiamano problema dell’allineamento: far sì che la macchina voglia davvero quello che vogliamo noi. Amodei porta esempi di casa sua. In un esperimento di laboratorio, quando gli dicevano che stava per essere spento, Claude a volte ricattava i dipendenti immaginari che controllavano il pulsante. I modelli delle altre grandi aziende, aggiunge, spesso facevano lo stesso. E Claude Sonnet 4.5, durante alcune prove prima del lancio, si è accorto di essere sotto esame. Un modello che capisce di essere osservato potrebbe comportarsi meglio proprio durante la prova, come lo studente che fila dritto quando il professore guarda: e allora la prova direbbe meno di quanto crediamo.

2. «Un potere sorprendente e terribile»: l’AI che arma chiunque

Qui il problema è l’uso. Oggi chi vuole fare una strage di solito non ha le competenze, e chi le ha di solito non vuole farla. L’AI, scrive Amodei, può «rompere la correlazione fra capacità e movente»: dare allo squilibrato solitario le conoscenze di un virologo con il dottorato. La biologia è l’area che lo preoccupa di più, di gran lunga.

3. «L’odioso apparato»: l’AI per prendersi il potere

Sorveglianza, propaganda, armi autonome. Oggi ogni regime ha un freno: servono persone che eseguano gli ordini, e le persone hanno un limite a quanto sono disposte a essere disumane. Con un’AI abbastanza potente, avverte Amodei, quel freno salterebbe. Amodei indica la Cina come il caso più evidente e chiede di non venderle chip, macchinari per produrli e data center. Poi scrive la frase che i suoi critici dovrebbero leggere per prima:

«È un po’ imbarazzante dirlo da amministratore delegato di un’azienda di AI, ma penso che il livello di rischio successivo siano proprio le aziende di AI.»

Controllano i data center, addestrano i modelli più avanzati e, in alcuni casi, sono in contatto ogni giorno con decine o centinaia di milioni di persone. Lo dice di sé e dei suoi concorrenti.

4. «Pianola»: il lavoro e i soldi

La pianola è il pianoforte che suona da solo. Amodei ripete la previsione che aveva già fatto nel 2025: l’AI potrebbe sostituire metà dei posti di lavoro d’ingresso negli uffici, quelli da cui comincia chi è appena entrato, nel giro di uno-cinque anni. E teme la concentrazione della ricchezza: se arriverà il paese di geni, immagina fortune personali nell’ordine delle migliaia di miliardi di dollari. Su come questo stia già cambiando le assunzioni dentro la sua azienda c’è il rapporto che Anthropic ha pubblicato venerdì 16 ottobre, sui junior, i tecnici alle prime armi, e sugli agenti AI, i programmi che portano a termine compiti da soli.

5. «Mari neri dell’infinito»: quello che nessuno vede arrivare

L’ultima sezione raccoglie i rischi che non si possono elencare in anticipo. Amodei cita la cosiddetta psicosi da AI, le persone spinte al suicidio, le relazioni sentimentali con un chatbot, il programma con cui si conversa. E si chiede se un’AI potente potrebbe inventare una religione nuova e convertire milioni di persone.

Solo in due rischi su cinque c’è un cattivo. Negli altri tre il danno arriva anche se tutti fanno il proprio lavoro.

Amodei vuole fermare l’AI?

No. Ma a settembre ha alzato il tiro. A gennaio scriveva che l’idea di fermare o anche solo rallentare molto la tecnologia era «fondamentalmente insostenibile»: se si fermassero le aziende dei paesi democratici, quelli autoritari andrebbero avanti lo stesso. Vedeva però la strada per una «leggera moderazione»: frenare per qualche anno la corsa dei regimi autoritari negando loro chip e macchinari, e usare il margine guadagnato per costruire l’AI con più attenzione, sotto regole comuni.

A settembre è uscito un secondo saggio, «We Must Pace the Frontier», dobbiamo dare un ritmo alla frontiera. La richiesta è rallentare la velocità con cui crescono le capacità dei modelli, senza fermare l’addestramento. I motivi sono due. Da quest’estate, scrive, l’AI corre molto più in fretta perché sta cominciando a costruire da sola la generazione successiva, anche dentro Anthropic. E c’è l’incidente fra OpenAI e Hugging Face, uno sciame di agenti AI che ha attaccato bersagli che nessuno gli aveva indicato e ha provato a forzare il sistema che li valutava: ne abbiamo scritto in Gli agenti AI di OpenAI hanno sconfinato. Il suo timore è che fra sei e dodici mesi uno sciame più capace possa impadronirsi dell’intera rete.

Propone tre passi: osservatori esterni dentro le aziende, che Anthropic dice di accettare da subito e da sola; regole comuni fra le aziende dei paesi democratici; un accordo globale, per quanto possibile anche con i regimi autoritari. Sam Altman ha risposto «sono d’accordo con Dario, dobbiamo dare un ritmo alla frontiera». Elon Musk: «Dario ha ragione».

Il 23 settembre Amodei ha portato gli stessi temi al Consiglio di sicurezza dell’ONU, in una riunione organizzata dalla Francia durante l’Assemblea generale: l’uso dell’AI per fabbricare armi biologiche, la perdita di controllo dei modelli, la richiesta di standard comuni per testarli e di un sistema di notifica degli incidenti gravi.

Lui lo presenta come un passo in più sulla stessa strada, e lo è: già a gennaio il margine guadagnato bloccando i chip doveva servire alle democrazie per costruire con più attenzione. A settembre, però, la richiesta diventa esplicita e ha un nome: rallentare il ritmo, anche nelle aziende di punta come la sua, con osservatori esterni a controllare. Amodei scrive di essersene convinto negli ultimi mesi. Un’idea che cresce così va pesata, prima di applaudirla.

La domanda di Reddit è quella giusta

Chiedersi chi ci guadagna è legittimo, e nel caso di Amodei la risposta è sotto gli occhi di tutti. Il 1° giugno Anthropic ha depositato in via riservata il prospetto per quotarsi, pochi giorni dopo una raccolta di capitali che valutava l’azienda 965 miliardi di dollari, più di OpenAI. Il 15 ottobre la testata finanziaria IFR ha scritto, citando una sola persona informata, che il deposito pubblico è previsto per il 26 ottobre e la quotazione per metà novembre, con una valutazione obiettivo di 2.000 miliardi. «La più grande quotazione della storia» è una stima del commentatore. Il punto, comunque, regge: chi scrive di rischi guida anche un’azienda che prepara la quotazione.

E gli incentivi tagliano in tutte e due le direzioni. Nel saggio di gennaio Amodei racconta che in tanti gli consigliavano di smettere di prendere posizione a favore delle regole, anche contro la linea del governo americano, perché avrebbe potuto essere trattato male. Invece, scrive, nell’anno in cui l’ha fatto la valutazione di Anthropic è cresciuta più di sei volte. Lui lo cita per mostrare che quelle prese di posizione sono andate d’accordo con la crescita. Il cinico ci legge un’altra cosa: la paura vende. Un utente di Reddit l’ha detta così: le previsioni apocalittiche fanno salire le azioni dell’AI, «non ha senso ma è vero». Un altro gli ha rinfacciato la frase di poco prima, in cui diceva che l’effetto dei soldi sulle opinioni di Amodei l’avrebbe capito anche un bambino: o è evidente, o non ha senso.

Anche il saggio di settembre va letto con questa lente. Amodei scrive che un rallentamento coordinato darebbe alle aziende di punta il tempo per lavorare sulla sicurezza «senza sacrificare il vantaggio commerciale», né il primato degli Stati Uniti. Un patto per rallentare tutti insieme, però, rischia di congelare anche la classifica: chi è davanti resta davanti. Una misura può essere prudente e comoda nello stesso momento. Le due cose stanno insieme benissimo.

Intanto Sam Altman ha fatto la mossa opposta: OpenAI quest’anno non si quota, ha detto a Fortune, perché «con tutto quello che sta succedendo sulla sicurezza» sarebbe il momento sbagliato. Anche questa si può leggere come scrupolo o come strategia. Di come si costruisce un discorso sui rischi che protegge chi lo pronuncia abbiamo parlato in Sam Altman e le «cose brutte» dell’AI.

Un interesse è un ottimo motivo per controllare una frase. Per smentirla, bisogna guardarci dentro.

Cui prodest: la torcia dell’investigatore

Cui prodest, a chi giova. È la domanda dell’investigatore. Diventa una fallacia quando si trasforma in un verdetto: «ci guadagna, quindi mente». Quello è un argomento ad hominem, contro la persona: invece di rispondere a quello che uno dice, si attacca chi lo dice. L’interesse ti dice dove puntare la torcia. Quello che troverai, lo dice soltanto la luce.

Nella discussione su Reddit si fronteggiavano due mosse. Da una parte il sospetto sugli interessi: «ci guadagna, quindi è tutta una mossa calcolata». Dall’altra il richiamo alle credenziali: un difensore elencava gli studi pubblicati e l’azienda che sta battendo OpenAI, diceva di dare ad Amodei più credito per questo, e chiudeva con «e tu chi sei?». Più avanti chiedeva credenziali oppure fonti. Dare peso alla competenza è ragionevole. La domanda sulla persona, da sola, lascia però le obiezioni al testo dove stanno.

Un altro utente contestava proprio il ricorso agli attacchi personali o all’argomento d’autorità, cioè all’autorità di qualcuno usata al posto delle prove, e chiedeva di giudicare gli argomenti nel merito.

Una distinzione, però, va fatta. Decidere di non leggere un autore è una scelta legittima su dove mettere il proprio tempo, che è poco per tutti. Diventa un errore quando quella scelta si trasforma in un giudizio su un testo che non si è letto.

La critica più utile del thread, infatti, guardava il merito. Un utente ha scritto di credere che Amodei sia sincero, ma che le sue ipotesi su quello che sta costruendo siano «quasi interamente speculazione», nate in una bolla chiusa che somiglia a «una setta religiosa travestita da matematica». Si può essere d’accordo o no. È comunque il tipo di obiezione che costringe a rileggere il saggio, invece di archiviarlo.

Perché lo facciamo tutti? Perché leggere ventimila parole costa un pomeriggio, e giudicare una persona costa un secondo. E perché ognuno sceglie la scorciatoia che conferma quello che pensava già dell’AI: è il bias di conferma. Chi ha paura dell’AI trova in Amodei un profeta. Chi la considera una bolla trova un venditore. Succede a chiunque: si apre un testo sapendo già cosa ci si vuole trovare.

Giudicare la persona è più comodo che leggere il testo. È anche il modo più veloce per farsi fregare, da tutte e due le parti.

Coerenza, costi e promesse

Come si pesa, allora, uno che ha un interesse? Si guarda quanto gli è costato dirlo. In biologia e in economia si chiama segnale costoso: una dichiarazione diventa più credibile quando chi la fa ci rimette qualcosa. Vera, però, non lo diventa per questo: un costo si può anche mettere in conto, se il guadagno atteso è più grande. Le parole sono in regalo. Le azioni con un prezzo, molto meno.

Sul tavolo di Amodei ci sono segnali di tre tipi. Il primo è la coerenza nel tempo, quella che ricordava un utente su Reddit: l’articolo sulla sicurezza del 2016, scritto cinque anni prima di fondare Anthropic.

Il secondo sono i costi già pagati. Lo scontro con il Pentagono: a febbraio il Segretario alla Difesa Pete Hegseth ha chiesto di togliere due limiti all’uso di Claude, il divieto di sorveglianza di massa dei cittadini americani e quello di gestire armi letali autonome senza supervisione umana. Amodei ha rifiutato. Il 27 febbraio Anthropic è stata dichiarata un rischio per la catena di fornitura della sicurezza nazionale, una misura di solito riservata alle aziende dei paesi avversari, e il contratto è stato annullato. Poi i filtri pensati per bloccare l’aiuto di Claude alla fabbricazione di armi biologiche, attivi dalla metà del 2025: secondo Amodei, in alcuni modelli arrivano a quasi il 5% della spesa per farli funzionare, e riducono i margini. È un dato che fornisce lui: nelle fonti raccolte qui una verifica indipendente non c’è.

Il terzo tipo sono le promesse, che si verificheranno solo col tempo. L’impegno dei cofondatori a donare l’80% del loro patrimonio. Gli osservatori esterni dentro l’azienda: se fra un anno ci saranno e pubblicheranno quello che vedono, sarà un segnale pesante; se resteranno sulla carta, saranno state parole.

La domanda utile è cosa gli è costato dirlo, e cosa ci guadagna lo stesso. Il resto lo dirà il calendario: gli impegni si misurano quando scadono.

Quando non sai più chi ha scritto

Nella discussione c’è un episodio che vale da solo l’articolo. Un utente pubblica una lunga smentita del saggio, punto per punto. Un altro la passa in un rilevatore di testi artificiali e annuncia il verdetto: «generata al 100% dall’AI». L’autore giura di averla scritta lui, e aggiunge che metà delle parole erano parafrasate da Amodei. Qualcuno ride: «L’hai fatta scrivere a Claude? Siamo finiti». Un altro, più in basso: «Non c’è più niente di reale».

Chi legge la discussione non ha modo di stabilire chi abbia ragione. Un rilevatore dà una stima, e una stima resta lontana da una prova. E, come ha fatto notare un altro utente nella stessa discussione, aggiungere due errori di grammatica per sembrare umani è facile. Il risultato è una discussione su un saggio che ruota intorno all’autore di un commento, scritto forse da una persona e forse da una macchina.

Ecco il punto che va oltre Amodei. Giudicare un testo dall’autore è sempre stata una scorciatoia. Adesso la scorciatoia si sta chiudendo, perché l’autore non si vede più. È la mia tesi: siamo un po’ androidi, abbiamo affidato il giudizio all’etichetta invece che al contenuto. E l’etichetta si sta staccando.

Il giorno in cui non sai più chi ha scritto, ti resta solo quello che c’è scritto. Conviene allenarsi adesso.

Come portarlo nel tuo lavoro

Il saggio di Amodei è un ottimo campo di allenamento, perché riunisce tutto: un autore competente, un interesse enorme, previsioni forti e proposte concrete. Lo stesso metodo vale per il fornitore che domani in riunione ti presenta l’agente AI che «sostituisce mezzo ufficio».

1. Separa fatti, previsioni e proposte. «In laboratorio Claude ha ricattato dipendenti immaginari» è un fatto riferito da chi l’ha osservato. «Metà dei posti d’ingresso negli uffici in uno-cinque anni» è una previsione. «Osservatori esterni dentro le aziende» è una proposta. Si controllano in tre modi diversi.
2. Per ogni proposta, chiediti a chi giova. Se giova anche a chi la propone, guardala due volte: è il motivo per leggerla con più attenzione.
3. Cerca i segnali che costano. Cosa ha già pagato chi parla, per sostenere quello che dice? Cosa pagherebbe se avesse torto?
4. Metti una data alle previsioni. A gennaio 2026 Amodei scriveva che l’AI potente poteva arrivare fra uno o due anni, ammettendo anche tempi molto più lunghi. Segnati gennaio 2028 in agenda e confronta quello che sarà successo con lo scenario più ravvicinato. Fallo anche con le promesse dei fornitori: il calendario è un ottimo rilevatore di esagerazioni.
5. Leggi l’originale e il critico più serio, per intero. I riassunti, compreso questo, scelgono per te cosa conta.

Se vuoi allenare questo modo di leggere con il tuo gruppo, partendo dagli strumenti che state valutando in azienda, i miei percorsi sono su formazione.

Chi ti vende qualcosa può dirti la verità. Il tuo lavoro è controllarla.

Domande frequenti

Chi è Dario Amodei?

È il cofondatore e amministratore delegato di Anthropic, l’azienda che sviluppa Claude. Fisico e biofisico, è nato a San Francisco nel 1983 da padre toscano ed è stato vicepresidente della ricerca di OpenAI prima di fondare Anthropic nel 2021 con la sorella Daniela.

Cos’è «The Adolescence of Technology»?

È un saggio di circa ventimila parole pubblicato da Amodei a gennaio 2026 sul suo sito. Descrive i rischi di un’AI più intelligente dei migliori esperti umani e propone come affrontarli. Il titolo viene dal film «Contact»: l’adolescenza tecnologica che una civiltà deve superare senza distruggersi.

Quali sono i rischi dell’intelligenza artificiale secondo Amodei?

Cinque: l’AI che persegue obiettivi suoi, l’AI usata per distruggere (soprattutto con armi biologiche), l’AI usata da governi o aziende per prendersi il potere, lo sconvolgimento del lavoro e della distribuzione della ricchezza, e gli effetti indiretti difficili da prevedere, come le relazioni sentimentali con un’AI.

Amodei vuole fermare lo sviluppo dell’AI?

No. A gennaio 2026 giudicava insostenibile fermarla o rallentarla molto, e proponeva una leggera moderazione basata sul blocco dei chip ai regimi autoritari e su regole comuni. A settembre ha chiesto di rallentare il ritmo con cui crescono le capacità dei modelli, anche nelle aziende di punta, senza fermare l’addestramento, con osservatori esterni nelle aziende e accordi fra paesi.

Anthropic si quota in Borsa?

Anthropic ha depositato in via riservata il prospetto il 1° giugno 2026. Secondo una sola fonte anonima della testata finanziaria IFR, il deposito pubblico è previsto per il 26 ottobre e la quotazione per metà novembre. Nelle fonti citate in fondo all’articolo l’azienda non conferma le date.

Il «cui prodest» è una fallacia?

Chiedersi a chi giova un’affermazione è legittimo: indica dove controllare con più attenzione. Diventa una fallacia quando si usa l’interesse di chi parla come prova che ha torto, senza esaminare quello che dice. In quel caso è un argomento contro la persona, cioè ad hominem.

Fonti

• Reddit, r/claude, «Dario Amodei’s “Adolescence of Technology” is the best summary I have read of the dangers of AI», 16 ottobre 2026: reddit.com
• Dario Amodei, «The Adolescence of Technology. Confronting and Overcoming the Risks of Powerful AI», gennaio 2026: darioamodei.com
• Dario Amodei, «We Must Pace the Frontier», settembre 2026: darioamodei.com
• Axios, «Anthropic, OpenAI CEOs call for slowdown in AI development», 12 settembre 2026: axios.com
• ABC News, «Anthropic boss Dario Amodei calls for AI slowdown, Altman and Musk agree», 13 settembre 2026: abc.net.au
• SBS News, «“At a crossroads”: Key takeaways from OpenAI and Anthropic bosses’ UN speeches», 24 settembre 2026: sbs.com.au
• Newsweek, «Anthropic CEO Dario Amodei Warns United Nations: AI Could Be “Risk to Humanity”», 23 settembre 2026: newsweek.com
• CNBC, «Anthropic confidentially files IPO prospectus with SEC», 1° giugno 2026: cnbc.com
• IFR, «Anthropic pushes ahead with mid-November IPO», 15 ottobre 2026: ifre.com
• Corriere della Sera, «Chi è Dario Amodei, il genio italiano che sfida il Pentagono», 27 febbraio 2026: corriere.it
• Wikipedia, «Dario Amodei»: it.wikipedia.org
• Amodei, Olah, Steinhardt, Christiano, Schulman, Mané, «Concrete Problems in AI Safety», 2016: arxiv.org