Dove eri quando la realtà è morta?

Ieri sera, come spesso accade, mia moglie è venuta a mostrarmi vari video e immagini che l’hanno divertita sui social dopo il lavoro. Le sue raccolte sono notevolmente orientate verso contenuti ‘carini’ arricchiti da animali affettuosi e personaggi di peluche.

Poco dopo, mi ha mostrato qualcosa che aveva salvato ma non aveva ancora avuto il tempo di guardare – un video di ‘animali carini’ che mostra un’interazione tra una koala femmina, i suoi due cuccioli addormentati e un gatto curioso.

Fin da subito mi sono chiesto come un giovane gatto domestico potesse accedere allo stesso spazio di questi animali selvatici, anche ipotizzando un contesto da ‘zoo’. Tuttavia ho scacciato il pensiero come un fastidioso mosquito, perché è già coperto dal concetto di ‘la vita è strana’.

Il video mostrava inquadrature statiche e piuttosto ravvicinate della koala madre e dei suoi due piccoli addormentati, disposti su un tessuto, con la madre appoggiata a un muro anonimo.

Un giovane gatto tigrato, cauto, è entrato in campo, spinto dalla curiosità oltre alla sua apprensione, e si è avvicinato ai cuccioli addormentati – tenendo costantemente d’occhio la madre, che potrebbe guardare con sfavore tale intervento.

Dopo circa un minuto di questo stallo speculativo, la koala madre si è allungata e ha afferrato il giovane gatto, tenendolo per qualche istante, in modo del tutto coerente con i pesi e le fisiognomie relative dei due animali; poi ha sistemato l’intruso accanto ai suoi piccoli, come un ‘ospite accettabile’.*

Un nuovo gatto per un nuovo problema

A quel punto, più o meno nello stesso istante, mia moglie ed io abbiamo dichiarato che questo video fosse probabilmente generato dall’IA, e abbiamo espresso quello che posso descrivere solo come una sensazione di ‘delusione sospesa’; per noi, era letteralmente un nuovo tipo di gatto di Schrödinger – finalmente fuori dalla scatola, ma non necessariamente vivo.

Non ho più cercato il video, né per verificare se chi lo ha pubblicato abbia ammesso la sua inautenticità; né per capire se sia stato pubblicato prima dell’epoca attuale, prima che tale contenuto potesse essere prodotto per pochi centesimi su una moltitudine di siti web e portali; né per osservare i commentatori del video che accusano il materiale di essere generato dall’IA, anche se non ne sono certi.

Che il video fosse falso o reale è irrilevante; ciò che mi ha colpito è stato il raggiungimento di un’epifania tanto attesa – che, nonostante abbia fornito una copertura approfondita e intensiva** dei sistemi di immagini e video generati dall’IA (oltre a discutere e creare sistemi di rilevamento deepfake) per sette anni, anche io non riesco più a fidarmi di ciò che vedo.

Il più grande collo di bottiglia residuo per la sintesi video IA – l’incoerenza – non è un ostacolo alla creazione del tipo di contenuto breve più probabile che diventi virale. L’IA può riempire perfettamente e precisamente i nostri ridotti tempi di attenzione, e per ora è tutto; ma ovviamente queste limitazioni, per quanto sfidanti, saranno alla fine superate.

Pertanto, questo pensiero tardivo (e forse anche errato) sul video della koala si inserisce in una serie di momenti ‘dove ero’ della vita: Mamma è su per la scala, sta dipingendo il soffitto, e la radio annuncia la morte di Elvis; la nave stellare tuona sopra le teste nella vigilia di Natale 1977 durante la prima pubblica a Leicester Square di Star Wars; il T‑Rex scappa dal suo recinto, di nuovo a Leicester Square, nel luglio 1993; Mara dice (in italiano) ‘Entrate in cucina, ragazzi – sta succedendo qualcosa a New York’; Guardo il gatto nel video della koala e realizzo che questo è l’anno, e – per me – il momento in cui la realtà è morta.

(Ehi, anche io ero fuori dal mondo quando Kennedy fu colpito.)

La risposta ‘Nemico alle porte’

Alla fine del 2025, secondo un ricercatore, la nostra capacità di riconoscere immagini generate dall’IA non è molto più alta del caso, al 54%. Provate voi stessi il test – non mi è andato molto bene, e la qualità dell’IA generativa è migliorata notevolmente negli otto o nove mesi intervenuti:

Clicca per riprodurre – Nonostante anni di studio, valutando le immagini come generate dall’IA o reali, ottengo quasi la media esatta trovata nei test condotti per lo studio citato. Fonte 

The Washington Post made una delle prime prognostiche di un potenziale mondo post-realtà, nel febbraio 2018, solo pochi mesi dopo che i deepfake basati su autoencoder che per la prima volta hanno stupito il mondo. L’articolo si sviluppa rapidamente in un grido di allarme per la regolamentazione, che alla fine si concretizzerà sotto forma di legislazione contro deepfake sessuali; la nuova legge dell’UE sulla divulgazione di materiale generato dall’IA; e il sistema di autenticazione della Coalition for Content Provenance and Authenticity (C2PA).

Quest’ultimo tenta di incollare informazioni qualificanti alle immagini lungo tutto il loro ciclo di vita, dai dati del sensore della fotocamera fino alla pubblicazione e archiviazione, registrando ogni modifica effettuata durante il percorso, e modificando il suo manifesto di conseguenza.

Naturalmente, questo approccio dalla culla alla tomba ignora in gran parte il patrimonio di immagini già in circolazione, e ha valore per il consumatore solo in un numero molto limitato di luoghi dove è stato adottato.

Quante dita sto alzando?

Il punto è che l’appetito per la regolamentazione dei contenuti generati dall’IA, cresciuto enormemente da quei editoriali impulsivi del 2018, è, ironicamente, una richiesta di automazione o delega del giudizio umano.

O non vogliamo fare quel lavoro e desideriamo che governi e istituzioni lo facciano per noi; oppure non riteniamo che certe altre persone – o tipi di persone – debbano essere lasciate a prendere questi giudizi (una posizione che non è un merito per chi la sostiene).

Non l’avevo già detto, forse un po’ malinconicamente, che non avrei indagato sulla provenienza del video koala/gatto? Non sapendo se quel video fosse falso, e rifiutandomi di raccogliere informazioni sufficienti per fare almeno un’ipotesi più informata, mi sospende nello stesso stato di credenza elastica che George Orwell descrive in 1984, dove il protagonista è torturato dallo Stato di polizia finché non diventa psicologicamente capace di sostenere due credenze contrastanti:

From Michael Radford’s 1984 adaptation of Orwell’s classic dystopian SF novel, a tormented Winston Smith (John Hurt) begins to at least concede that four fingers might actually equal three fingers, and that his eyes are not to necessarily be trusted. Still from 1984 (1984), © Metro-Goldwyn-Mayer Studios Inc. / Amazon MGM Studios. Still from 1984 (1984), © Metro-Goldwyn-Mayer Studios Inc. / Amazon MGM Studios.

Nel romanzo di Orwell, il personaggio antagonista O’Brien (interpretato da Richard Burton nell’adattamento del 1984 mostrato sopra) dichiara esplicitamente alle sue vittime che lo scopo della tortura è rendere le loro credenze duttili, così che possano – come conviene allo Stato totalitario descritto in quest’opera – sostenere simultaneamente due credenze – come il fatto che quattro dita alzate possano anche essere tre dita, se lo Stato lo richiede.

Questa ‘elasticità della credenza’ è naturalmente apprezzata tra gli influencer di ogni tipo, poiché di solito si è indurita nel momento in cui gli elettori – o i consumatori – sono maturati diventando bersagli desiderabili per l’influenza.

Poiché, per me, il video koala/gatto è sia ‘IA’ che ‘non IA’, ho compiuto i primi passi per abituarmi a una credibilità duale; e sono suscettibile a chi offre di fermare quella percezione binaria lampeggiante, e di dirmi cosa è reale.

Pertanto, mi viene in mente che questa specifica epifania non è da celebrare, ma piuttosto da contrastare. Quella concessione interiore all”irrealtà’ che mi è giunta sotto forma di un video ‘animali carini’, e che potrebbe arrivare a te – o arriverà a te – in un’altra forma, è probabilmente un pericolo per la capacità di giudicare e valutare il mondo.

In una nota più leggera

In una nota più leggera, il filosofo Joshua Habgood-Coote ha assunto una posizione più ottimistica nel 2024, sminuendo l”apocalisse epistemica’ come allarmismo riguardo alla perdita di sistemi che, in ogni caso, erano fragili e – nel caso della fotografia – piuttosto recenti.

Ma sostiene anche, in un’uscita più recente, che i meme ‘fake news’ e ‘post-verità’ sono stati usati come armi per fini politici, il che, almeno nel primo caso, è difficile da negare (anche se rappresenta opportunismo politico, piuttosto che una cospirazione).

* E ti chiedi davvero se questo esempio conveniente sia reale, o se l’ho inventato – con o senza IA – come dispositivo discorsivo? È reale, dico; se il fatto che io sia non una nuova voce su questi temi ha qualche peso, forse mi credi. O ho cambiato di recente..?

** Questo include citazioni in diverse voci della letteratura, inclusi Weights in Machine Learning.

Pubblicato per la prima volta venerdì 4 settembre 2026. Modificato qualche minuto dopo la prima pubblicazione per errori riguardanti le koala.