Rilevatore AI: anche il ritocco lascia il segno

Hai fotografato il tuo prodotto con il telefono. Poi hai chiesto a ChatGPT di togliere un riflesso dal vetro. Domanda secca: quella foto adesso è vera, o è fatta con l’AI?

Tu una risposta ce l’hai. Il cliente che la guarda potrebbe averne un’altra, e tenersela per sé.

Mercoledì 4 novembre Pangram, l’azienda che fa un rilevatore AI per i testi molto usato, come scrive Engadget, ha presentato due modelli che riconoscono le immagini e i video fatti con l’AI: Pangram Image 1.0 per le immagini e Pangram Image Flash 1.0, più piccolo e veloce, pensato soprattutto per i video. Il rilevatore funziona anche come estensione di Chrome, e segnala i contenuti fatti con l’AI mentre navighi. Social, negozi online, annunci di case in affitto: sono gli esempi che fa l’azienda stessa. Cioè proprio i posti dove chi lavora mette le sue foto.

Il nome forse l’hai già letto qui: Pangram è il rilevatore usato dall’inchiesta olandese sui discorsi dei deputati, che con lo strumento ha stimato quanti interventi in aula fossero scritti in larga parte con l’AI. Lì si parlava di testi. Stavolta il tema sono le immagini.

Cosa ha presentato Pangram il 4 novembre

La notizia sta sul blog di Pangram, in un post firmato da Isaac Kasahara, l’ingegnere che lavora al riconoscimento di immagini e video. Qualche mese fa l’azienda aveva fatto uscire una versione di prova del suo rilevatore di immagini. Adesso arriva la versione 1.0, divisa in due modelli.

Il primo è Pangram Image 1.0, il modello di punta per le immagini. Fa tre cose, secondo l’azienda. Riconosce le immagini prodotte dai generatori più recenti. Restituisce una mappa di calore, cioè una sovrapposizione colorata che mostra in quale zona dell’immagine sta l’AI. E regge alle modifiche, alla compressione e alle risoluzioni basse. L’esempio in apertura del post è una foto vera con dentro un pezzo generato: la mappa individua quel pezzo.

Il secondo è Pangram Image Flash 1.0, più piccolo e più veloce, pensato soprattutto per i video. Carichi un filmato, e il modello lo analizza fotogramma per fotogramma, cioè immagine ferma per immagine ferma, per dirti quali parti risultano fatte con l’AI. Engadget aggiunge che, secondo l’azienda, lo strumento distingue fra i video «in parte AI» e quelli generati per intero, e che anche per i video c’è la mappa di calore.

Poi i due modi per usarlo. Il primo è l’estensione per Chrome: Pangram scrive di averci messo Image 1.0, e che segnalerà i contenuti generati con l’AI mentre scorri i social, i negozi online, gli annunci di case in affitto, e qualunque sito dove sapere se quello che vedi è vero fa differenza. Il secondo sono le API, cioè l’accesso per chi costruisce programmi: adesso controllano sia immagini sia video.

C’è anche una soglia che si abbassa. Alla prima uscita il rilevatore accettava immagini da almeno 512 per 512 pixel, perché sotto quella misura sbagliava di più. Adesso il minimo scende a 256 per 256. Sotto i 512, però, il risultato arriva con un avviso: affidabilità ridotta.

Quanto costa? Secondo Engadget, le nuove funzioni sono per chi ha un abbonamento, e con un account in regalo puoi controllare una manciata di immagini. Sulla pagina dei prezzi, il piano Individual costa 20 dollari al mese dopo sette giorni di prova, e comprende 100 controlli di immagini al mese. Per chi passa dalle API, Image Flash 1.0 costa 5 centesimi di dollaro a immagine.

Una mappa colorata che ti dice dove guardare. Utile, quando la usi tu. Diversa, quando la usa qualcuno sulle tue foto.

Per Pangram, anche il telefono ritocca con l’AI

La frase più interessante di tutta la presentazione l’ha scritta su X il CEO di Pangram, Max Spero, e la riporta Engadget: «La maggior parte delle fotocamere dei telefoni, iPhone compresi, fa un certo livello di post-elaborazione con l’AI per aggiungere dettaglio alle foto vere». Post-elaborazione vuol dire il lavoro che il telefono fa sulla foto dopo lo scatto, prima di mostrartela. Spero continua: «Abbiamo dovuto costruire un modello che regga a questa post-elaborazione, capendo la differenza fra le modifiche fatte con l’AI e le immagini generate per intero».

E c’è un retroscena, raccontato da Spero a Pirate Wires e ripreso da Engadget: l’azienda ha rimandato l’uscita del modello per provarlo su alcuni iPhone 18 Pro, perché all’inizio il rilevatore segnalava come AI le foto scattate con quei telefoni.

Fermati un attimo su questo. Il rilevatore, prima di uscire, scambiava per finte le foto scattate con un iPhone. Spero racconta che l’azienda ha rimandato l’uscita per provare il modello su quei telefoni. Rendere pubblico un problema così, per me, è un buon segno di serietà. Il punto, per chi lavora, è un altro.

Fra «vero» e «fatto con l’AI», a leggere Spero, ci sono almeno tre gradini. La foto scattata, che il telefono ha già ritoccato da solo. La foto scattata e poi modificata con un’AI, come quella del riflesso tolto dal vetro. L’immagine generata da zero. Pangram dice di saperli distinguere. Chi guarda la tua vetrina online con un’estensione così, invece, vede il risultato del controllo, e in quel momento il controllo parla per te.

Tu sai da dove viene la tua foto. Chi la guarda con un’estensione così sa quello che gli dice il programma.

Il ritocco che non hai chiesto

Il secondo dettaglio sta in un post che Pangram ha pubblicato a fine settembre, e che oggi diventa più importante. Titolo: la tua immagine è ancora vera dopo un ritocco con l’AI?

L’esperimento è semplice. Kasahara ha una sua foto del giardino botanico di Brooklyn, nella stagione dei ciliegi in fiore. Chiede a ChatGPT di aggiungere delle anatre nello stagno. Poi chiede la stessa cosa a Gemini. Richiesta: «Add ducks to the photo», aggiungi le anatre alla foto. A un primo sguardo, scrive, tutti e due hanno fatto un ottimo lavoro: le anatre ci sono, gli alberi sono gli stessi, le persone sono ancora lì.

Poi ingrandisce. Prendi l’uomo sulla sinistra della scena: capelli, colore della pelle e posa restano gli stessi, ma i tratti del viso sono cambiati parecchio. La frase di Pangram è questa: la persona nelle immagini modificate non esiste davvero. Negli altri ingrandimenti cambiano i volti, gli occhiali da sole, il colletto di una camicia, perfino l’inclinazione della testa di una donna. I rami davanti alla facciata di un edificio sono diversi, e così i rami e i fiori dei ciliegi. Le zone piene di dettagli, scrive Pangram, possono uscire sfocate o sbiadite. Era stata chiesta una modifica allo stagno. È cambiata tutta l’immagine, e il più delle volte, aggiunge, chi la usa non se ne accorge.

Perché succede? Pangram dà una spiegazione semplificata, e avverte che è un esempio di come funzionano alcuni modelli, non una descrizione verificata di ChatGPT o Gemini. Il modello comprime l’immagine, ci lavora sopra in quella versione compressa, poi la ricostruisce. Nella compressione perde i dettagli fini. Nella ricostruzione li indovina.

Le due aziende, nota Pangram, lo dicono a modo loro. OpenAI ammette che ChatGPT può modificare oltre la zona indicata, e nella documentazione delle API spiega che la maschera di modifica, cioè l’area che segni per dire «tocca solo qui», è una guida e non garantisce un confine preciso. La guida di Gemini consiglia di descrivere i dettagli importanti per aiutare a tenerli com’erano.

Qui il rilevatore entra in scena. Pangram scrive che i rilevatori AI possono segnalare tutta la tua immagine come generata dall’AI anche se volevi solo un piccolo ritocco. E aggiunge, fra parentesi, che a quel punto tecnicamente lo è.

Una nota di onestà. Il test delle anatre è di settembre, prima di ChatGPT Images 2.6, il modello che OpenAI ha presentato proprio il 4 novembre, lo stesso giorno di Pangram. Per OpenAI, il nuovo modello è più bravo a conservare i dettagli da una modifica all’altra. Più bravo è un confronto con prima: il controllo, sulla foto che pubblichi, resta a te.

Hai chiesto le anatre. Nel test di Pangram sono cambiati anche i volti.

Chi guarda adesso ha uno strumento in più

Mettiti per un momento dall’altra parte. Sei un cliente, stai cercando una casa per le vacanze, e hai installato un’estensione che controlla le foto degli annunci. Su un annuncio compare il segnale: questa immagine sembra fatta con l’AI. Cosa pensi?

Io penserei alla casa. Più precisamente, penserei che la casa vera sia peggio di quella in foto. Magari la foto era vera, con il cielo schiarito da un’app. Quella sfumatura resta fuori dallo schermo. Resta un segnale, e il segnale fa il lavoro di un giudizio.

È la cosa che mi interessa di più di questa notizia, perché tocca il mio mestiere: la comunicazione. Per come la vedo io, la fiducia si decide in pochi secondi, spesso prima che tu abbia detto una parola. Di solito il tuo cliente si fa un’idea guardando la foto. Con uno strumento come questo, può farsela guardando anche il giudizio di un programma sulla foto. E il programma ragiona in probabilità; chi legge il segnale, temo, lo traduce in vero o falso.

Vale anche al contrario. Engadget racconta un’immagine condivisa dallo stesso Spero: l’estensione al lavoro su Pinterest, con un risultato «unsure», incerto, su due immagini che di sicuro foto vere non sono. Il giornale nota che l’avviso sulle immagini piccole potrebbe spiegarlo. Il che vuol dire: l’assenza di un allarme è solo un’assenza di allarme. Un «incerto» resta un «incerto».

Il cliente guarda la tua foto. Con un’estensione così, guarda anche cosa ne pensa un programma.

Quanto pesa quel 99,96%

Un rilevatore si giudica dai numeri, e Pangram ne pubblica parecchi. Vale la pena leggerli bene, perché un numero con due decimali sembra una misura del mondo. È la misura di una prova.

Per le immagini, Pangram ha preso 100 foto vere e ne ha fatto delle copie sintetiche con 12 generatori di immagini fra i più avanzati, usando descrizioni molto vicine all’originale: 1.200 immagini finte in tutto. Su questa prova, il modello arriva al 99,96% di accuratezza. Engadget, riportando i test dell’azienda, scrive che il modello ha riconosciuto oltre il 99% delle immagini AI con un tasso di falsi positivi dello 0,27%. Falso positivo vuol dire una foto vera scambiata per finta. Uno 0,27% di falsi positivi vuol dire circa 27 foto vere segnalate per sbaglio ogni 10.000 foto vere controllate: più o meno una ogni 370, nelle condizioni del test.

Per i video, Pangram cita uno studio accademico recente, DF26, secondo cui le persone distinguono i video veri da quelli generati di gente che parla poco meglio che tirando a indovinare, e i rilevatori di oggi non facevano molto meglio. Su quella prova, scrive Pangram, Flash arriva al 98,7%: 29 punti sopra il secondo rilevatore. L’azienda ha fatto anche un test suo, per confrontarsi con altri servizi di rilevamento: 129 video veri presi dai social e 1.400 copie sintetiche, 100 per ciascuno dei 14 generatori video usati, partendo da video scelti fra i 129 originali. In tutto, 1.529 video.

Sono numeri seri, e il metodo delle copie è ragionato. Pangram lo spiega così: il video vero e la sua copia hanno la stessa scena e lo stesso soggetto, e questo evita che il modello venga premiato perché chiama AI certi tipi di contenuto per abitudine. Ma restano due cose da tenere presenti. La prima: sono risultati riportati dall’azienda che vende il rilevatore. Le raccolte di copie sintetiche le ha costruite Pangram; DF26 invece è uno studio accademico esterno, ma il punteggio di Flash su quella prova lo riporta sempre Pangram. La seconda: le foto che girano davvero sono compresse, ridotte, rifatte. Pangram lo sa, dice di aver addestrato il modello proprio su questo, e mette lei stessa l’avviso sotto i 512 pixel.

Quel numero misura quella prova. Le tue foto sono un’altra prova.

Come portarlo nel tuo lavoro

Puoi continuare a ritoccare le tue foto. Il lavoro da fare è sapere che fra te e il cliente può esserci un terzo che guarda, e regolarti. Sei cose concrete.

1. Tieni sempre l’originale. Lo consiglia Pangram, ed è la cosa più facile. Se un giorno qualcuno ti chiede se quella foto è vera, l’originale è la tua risposta.
2. Dopo un ritocco con l’AI, guarda quello che non hai chiesto di cambiare. Facce sullo sfondo, scritte, etichette, il logo sul prodotto, i dettagli fini. Ingrandisci. Nel test delle anatre il problema non stava nello stagno.
3. Quando deve restare tutto uguale, tocca solo il pezzo che serve. Pangram suggerisce due strade: ritagliare la parte generata e incollarla sopra la foto originale, oppure usare un programma che modifica solo la zona selezionata e lascia il resto com’è.
4. Prima di una foto importante, falla vedere a un rilevatore. Se vuoi sapere come la vede un cliente con l’estensione, l’account in regalo ti dà qualche controllo. Prima di caricarci la foto di un cliente o di una persona, leggi le condizioni sulla privacy: stai mandando quell’immagine a un servizio esterno.
5. Se l’immagine è generata, dillo tu. Una riga nella didascalia costa poco e ti lascia la parola. Se lo scopre un’estensione, la parola ce l’ha lei. Le regole europee sulla trasparenza dei contenuti AI le ho raccontate in questo articolo sull’AI Act.
6. Per le immagini che ricevi, usalo come un indizio. Il video troppo perfetto di un fornitore, la foto di un documento, l’immagine di un prodotto che sembra troppo bella: un rilevatore ti dà una probabilità da mettere accanto alle altre verifiche. Su come riconoscere un falso, e su cosa guardare oltre al programma, c’è la mia guida ai deepfake.

Sotto tutte e sei c’è un principio di comunicazione, almeno per come la vedo io: chi parla per primo sceglie la cornice. Se dici tu «questa immagine l’ho creata con l’AI», è una scelta. Se lo dice un’estensione al posto tuo, sembra una scoperta.

La trasparenza costa una riga. Il sospetto può costarti il cliente.

👉 Leggi anche: Gemini Omni: il video del prodotto, dalle foto

Domande frequenti

Cos’è Pangram Image 1.0?

È il rilevatore AI per immagini presentato da Pangram il 4 novembre 2026. Stima se un’immagine è stata creata o modificata con l’AI e mostra con una mappa di calore dove sta la parte generata. Con lui è uscito Pangram Image Flash 1.0, un modello più veloce che analizza anche i video, fotogramma per fotogramma. Pangram dice di aver messo Image 1.0 nella sua estensione per Chrome; per chi sviluppa ci sono le API.

Quanto costa il rilevatore di Pangram?

Secondo Engadget, le nuove funzioni per immagini e video sono per gli abbonati, e con un account in regalo puoi controllare qualche immagine. Sulla pagina dei prezzi di Pangram, il 5 novembre, il piano Individual costava 20 dollari al mese dopo sette giorni di prova e comprendeva 100 controlli di immagini al mese. Nelle API, Image Flash 1.0 costa 5 centesimi di dollaro a immagine.

Una foto scattata con il telefono può risultare fatta con l’AI?

È il problema che Pangram dice di aver dovuto risolvere. Secondo il CEO Max Spero, la maggior parte delle fotocamere dei telefoni, iPhone compresi, ritocca le foto con un po’ di AI per aggiungere dettaglio. L’azienda ha rimandato l’uscita del modello perché all’inizio segnalava come AI le foto di alcuni iPhone 18 Pro, e dice di aver costruito il rilevatore per reggere a questo ritocco automatico.

Se ritocco una foto con ChatGPT, il rilevatore la segnala?

Può succedere. In un test di settembre Pangram ha chiesto a ChatGPT e a Gemini di aggiungere delle anatre a una foto vera: sono cambiati anche i volti delle persone sullo sfondo e altri dettagli. Pangram scrive che in questi casi i rilevatori possono segnalare tutta l’immagine come AI. Il nuovo modello ha una mappa di calore che serve proprio a localizzare la parte generata.

Ci si può fidare di un rilevatore AI?

Come di un indizio. Nei test citati da Pangram le percentuali di riconoscimento superano il 98%, ma i risultati del modello li riporta l’azienda stessa, su raccolte sue e su una prova accademica esterna; e sotto i 512 pixel il risultato arriva con un avviso di affidabilità ridotta. Lo stesso CEO ha mostrato un risultato «incerto» su due immagini chiaramente finte. Il verdetto, alla fine, lo dai tu, mettendo insieme più verifiche.

Fonti

• Pangram, «Introducing Pangram Image 1.0», 4/11/2026: pangram.com
• Engadget, «Pangram expands its AI detection tools to video and images», 4/11/2026: engadget.com
• Pangram, «Is your image still real after AI edits?», 28/9/2026: pangram.com
• Pangram, pagina dei prezzi (letta il 5/11/2026): pangram.com
• OpenAI, note di rilascio di ChatGPT, voce del 4/11/2026 «Introducing ChatGPT Images 2.6»: help.openai.com