Hany Farid si siede davanti allo schermo, apre un’immagine e fa quello che ha fatto ogni giorno per vent’anni: cerca le bugie. Analizza le ombre, traccia linee geometriche mentali, misura gli angoli della luce. È il massimo esperto mondiale di digital forensics, l’uomo che ha insegnato ai tribunali come leggere le fotografie, che ha smontato falsi in casi criminali di risonanza internazionale, che ha costruito algoritmi in grado di riconoscere la manipolazione nei pixel prima ancora che l’occhio umano avesse il tempo di sospettare qualcosa.
Poi, sei mesi fa, qualcosa è cambiato.
“Non mi fido più di niente”, ha dichiarato Farid in una recente intervista. “Ogni immagine che vedo, traccio linee per le ombre e faccio calcoli geometrici mentalmente, cercando di capire cosa sto guardando. È finita. Entro uno o due anni, il nostro intero sistema visivo sarà completamente inutile.”
Queste parole, pronunciate da chi ha dedicato la propria vita a distinguere il vero dal falso, non sono la frustrazione di un professionista stanco. Sono una diagnosi. E riguardano tutti noi.
Il crollo di un paradigma
Per secoli, la fotografia ha avuto uno statuto epistemologico privilegiato. Vedere per credere: non era solo un modo di dire, era una struttura cognitiva profonda, radicata nella biologia e rafforzata dalla cultura. La macchina fotografica, si pensava, non mente. Il video registra. L’audio cattura.
Questa certezza ha regnato anche nell’era digitale, nonostante Photoshop esistesse da decenni e i deepfake circolassero già dal 2017. La manipolazione, fino a poco tempo fa, lasciava tracce. Richiedeva competenze. Richiedeva tempo. Ed esistevano esperti come Farid capaci di trovarle, quelle tracce, anche quando erano invisibili a occhio nudo.
Oggi quel vantaggio è scomparso. I modelli di intelligenza artificiale generativa — Midjourney, Stable Diffusion, Sora, e i loro successori sempre più potenti — hanno democratizzato la falsificazione. Chiunque, con uno smartphone e una connessione internet, può generare in pochi secondi un ritratto fotograficamente perfetto di una persona che non esiste, un video di un politico che pronuncia parole mai dette, un file audio della voce di un proprio caro che chiede aiuto da un numero sconosciuto.
Quando l’esperto fallisce il proprio test
La ricerca di Farid ha prodotto dati che andrebbero letti come un allarme pubblico. La maggior parte delle persone, messe di fronte a una selezione di immagini reali e generate dall’AI, non riesce più a distinguerle con un tasso di successo superiore al caso. In altre parole: tirare a indovinare darebbe gli stessi risultati.
Ma la parte più inquietante delle sue scoperte non riguarda il pubblico generico: riguarda lui stesso. Farid ha iniziato a fallire i suoi stessi test. Questo non è un aneddoto marginale. È la prova che il problema ha superato la soglia dell’expertise umana. I sistemi di generazione dell’AI hanno raggiunto un livello di sofisticazione tale da ingannare anche i meccanismi cognitivi più affinati. Il sistema visivo umano, evolutosi per riconoscere volti, interpretare espressioni, leggere il linguaggio del corpo, semplicemente non è equipaggiato per operare in un ambiente in cui la realtà sintetica è indistinguibile da quella autentica.
La triade dell’inganno: immagine, voce, video
Il problema non si limita alle fotografie statiche. Farid e i suoi colleghi hanno documentato come la crisi si estenda a tre dimensioni fondamentali della comunicazione umana.
Le immagini generate sono ormai standardizzate a un livello qualitativo che sfida qualunque tentativo di analisi superficiale. I modelli più recenti non producono solo volti convincenti, ma scene complesse, architetture dettagliate, interazioni fisiche tra oggetti e persone che rispettano con precisione millimetrica le leggi dell’ottica, della luce e della prospettiva.
La clonazione vocale rappresenta forse la minaccia più immediata per la vita quotidiana. Con appena tre secondi di audio autentico, alcuni sistemi commercialmente disponibili sono in grado di generare una voce sintetica indistinguibile dall’originale. Le truffe telefoniche basate su voci clonate di familiari sono già una realtà documentata in decine di paesi.
I video deepfake, infine, hanno completato la triade. Ciò che fino al 2022 richiedeva settimane di elaborazione e produceva risultati spesso grotteschi, oggi si genera in tempo reale, con qualità trasmissibile su qualunque piattaforma digitale.
Il problema della fiducia sistemica
Ciò che rende questa crisi diversa da tutte le precedenti manipolazioni mediatiche non è solo la qualità tecnica dei falsi. È la velocità di produzione, la scala di distribuzione e, soprattutto, l’impossibilità pratica di una verifica diffusa.
Nella storia del giornalismo e dell’informazione, ci sono sempre state notizie false, fotografie ritoccate, testimonianze fabricate. Ma il sistema aveva anticorpi. Esisteva un processo — lento, imperfetto, spesso fallace — attraverso cui la verità tendeva a emergere. Esistevano gatekeepers, redazioni, fact-checkers, esperti a cui rivolgersi.
Oggi quel sistema è sotto pressione. I social media distribuiscono contenuti a velocità incompatibile con qualsiasi processo di verifica. E la stessa infrastruttura tecnica che potrebbe aiutare a verificare i contenuti è la stessa che li genera. Si chiama asimmetria della disinformazione: produrre un falso convincente richiede secondi e pochi centesimi di euro; smontarlo richiede ore, competenze specifiche, accesso agli strumenti giusti.
Le soluzioni sul campo
Farid non è solo nella sua battaglia. Intorno a lui si è sviluppato un ecosistema di ricercatori, aziende e organizzazioni che cercano di costruire argini tecnici contro il diluvio sintetico.
Sul fronte della rilevazione automatica, diversi laboratori universitari e startup stanno sviluppando sistemi di analisi forense basati su AI in grado di identificare le “impronte digitali” lasciate dai modelli generativi. Il problema è che questi sistemi diventano obsoleti ogni volta che esce una nuova versione dei modelli generativi. È una corsa agli armamenti, e chi attacca ha strutturalmente più risorse di chi difende.
Sul fronte della provenienza certificata, la Coalition for Content Provenance and Authenticity (C2PA) — di cui fanno parte Adobe, Microsoft, Google e diverse agenzie di stampa internazionali — sta lavorando a uno standard di metadatazione crittografica che permetta di tracciare l’origine di un’immagine dal momento della sua creazione.
Sul fronte legislativo, l’Unione Europea ha incluso nell’AI Act obblighi espliciti di etichettatura per i contenuti sintetici. Ma la regolamentazione si scontra con due ostacoli fondamentali: la giurisdizione globale di internet e la velocità dell’innovazione tecnologica.
Una crisi epistemologica, non solo tecnologica
Sarebbe un errore ridurre questa crisi a un problema tecnico in attesa di una soluzione tecnica. Ciò che sta accadendo ha una dimensione più profonda, che tocca le basi stesse della conoscenza condivisa e della vita democratica.
Le democrazie funzionano su un presupposto implicito: che esista un terreno comune di fatti verificabili, su cui cittadini e istituzioni possano dibattere e costruire consenso. Quando quella base fattuale viene erosa — quando non è più possibile stabilire con certezza se un video sia autentico, se una dichiarazione sia stata effettivamente pronunciata, se una fotografia documenti un evento reale — il dibattito pubblico perde il suo ancoraggio.
I filosofi chiamano questo effetto liar’s dividend: il dividendo del bugiardo. In un mondo in cui tutto potrebbe essere falso, il bugiardo convinto si trova paradossalmente avvantaggiato. Non deve più dimostrare che le prove contro di lui siano false: gli basta seminare il dubbio sulla loro autenticità.
L’alfabeto di un mondo nuovo
Hany Farid, con tutto il suo pessimismo, non ha smesso di lavorare. Continua a fare ricerca, a testimoniare davanti ai Congressi e ai Parlamenti, a formare investigatori e giornalisti. Sa che ciò che serve è più complesso e più lento: una nuova forma di alfabetizzazione, una nuova igiene cognitiva per il mondo digitale.
“Il nostro intero sistema visivo sarà completamente inutile”, ha detto Farid. Forse ha ragione. Ma l’occhio, da solo, non è mai stato sufficiente. Quello che serve — quello che è sempre servito — è il pensiero critico che lo accompagna. La differenza è che oggi non possiamo più permetterci di darlo per scontato.