Kde jsi byl, když zemřela realita?

Včerejší večer, jak se často stává, přišla ke mně manželka, aby mi ukázala různé videa a obrázky, které ji po práci pobavily na sociálních sítích. Její výběry jsou výrazně zaměřeny na „roztomilý“ obsah provoněný roztomilými zvířaty a plyšovými postavičkami.

Krátce poté mi ukázala něco, co si uložila, ale ještě neměla čas si to prohlédnout – video s „roztomilými zvířaty“, kde se setkává samice koaly, její dva spící novorozenci a zvědavá kočka.

Hned na první pohled jsem se zamyslel, jak by mladá domácí kočka mohla mít přístup ke stejnému prostoru jako tato divoká zvířata, i když předpokládáme prostředí nebo kontext „zoo“. Přesto jsem ten myšlenku odrazil jako otravný komár, protože to spadá pod „život je podivný“.

Video ukazovalo statický a poměrně úzký záběr matky koaly a jejích dvou spících potomků, kteří leželi na látce, přičemž matka se opírala o nevyznačenou zeď.

Mladá, opatrná mourovatá kočka vstoupila do záběru, přemohla svou obavu zvědavostí a připlížela se k spícím mláďatům – přitom neustále sledovala matku, která by mohla mít k tomuto zásahu nepříznivý názor.

Po asi minutě tohoto spekulativního patu matka koala se natáhla a pohltila mladou kočku, držela ji několik okamžiků, což plně odpovídalo relativním hmotnostem a fyziognóziím obou zvířat; a pak usadila vetřelce vedle svých potomků jako „přijatelného hosta“.*

Nová kočka pro nový problém

V tomto okamžiku, zhruba ve stejný moment, jsme s manželkou prohlásili, že toto video pravděpodobně vzniklo pomocí AI, a vyjádřili jsme to, co mohu popsat jen jako pocit „pozastaveného zklamání“; pro nás to byl doslova nový druh Schrödingerovy kočky – konečně z krabice, ale ne nutně živá.

Od té doby jsem video nevyhledával, abych zjistil, zda ti, kteří jej zveřejnili, přiznali jeho neautentičnost; nebo zda bylo poprvé zveřejněno před současností, než bylo možné takový výstup za pár centů vytvořit na množství webových stránek a portálů; nebo abych sledoval komentáře pod videem, obviňující materiál z toho, že byl vytvořen AI, i když si to možná nejsou jisti.

Zda bylo konkrétní video falešné nebo pravé, je bezpodstatné; co mě zasáhlo, bylo to, že jsem konečně dospěl k dlouho očekávanému, dlouho očekávanému zjevení – že navzdory tomu, že jsem po sedm let intenzivně a hluboce pokrýval systémy generované AI pro obrázky i videa (a také diskutoval o a vytváření systémů pro detekci deepfake), už ani já nemohu důvěřovat tomu, co vidím.

Největší přetrvávající úzké hrdlo pro syntézu AI videí – nekonzistence – není překážkou pro tvorbu druhu krátkého obsahu, nejpravděpodobněji virálního. AI dokáže dokonale a přesně zaplnit naše zmenšené pozornostové rozpětí, a zatím ne více; ale zjevně tyto výhrady, jak náročné jsou, budou nakonec překonány.

Proto tato opožděná (a možná i mylná) úvaha o videu koaly zapadá do celoživotní řady momentů „kde jsem byl“: Mamka je na žebříku, maluje strop a rádio oznamuje, že Elvis zemřel; hvězdný destruktor hřmí nad vánočním večerem 1977 v premiéře na Leicester Square Star Wars; T‑Rex se opět vylomí ze svého výběhu na Leicester Square v červenci 1993; Mara říká (italsky) „Pojďte do kuchyně, kluci – něco se děje v New Yorku“; Dívám se na kočku ve videu koaly a uvědomuji si, že tohle je rok, a – pro mě – okamžik, kdy realita zemřela.

(Hej, dokonce i já byl mimo svět, když byl Kennedy zastřelen.)

Odpověď „nepřítel u bran“

K konci roku 2025, podle jednoho výzkumníka, naše schopnost rozpoznat AI‑generované obrázky není daleko nad náhodou, dosahuje 54 %. Vyzkoušejte si test sami – já jsem v něm neuspěl, a kvalita generativní AI se v následujících osmi či devíti měsících výrazně zlepšila:

Klikněte pro přehrání – Navzdory letům studia, při hodnocení obrázků jako AI‑generovaných nebo skutečných, dosahuji téměř přesně průměru nalezeného v testech provedených pro citovanou studii. Zdroj 

The Washington Post učinil jednu z nejranějších prognóz o možném světě po realitě, v únoru 2018, jen několik měsíců po tom, co deepfake založené na autoenkodérech poprvé ohromily svět. Článek se rychle vyvíjí v alarmující výzvu k regulaci, která nakonec přišla ve formě legislativy proti sexuálním deepfake; nového zákona EU týkajícího se zveřejňování AI‑generovaného materiálu; a autentizačního systému Coalition for Content Provenance and Authenticity (C2PA).

Druhá se snaží připojit kvalifikační informace k obrazu během celého jeho životního cyklu, od dat senzoru kamery až po publikaci a archivaci, zaznamenávat jakékoli úpravy během cesty a odpovídajícím způsobem upravovat jeho manifest.

Přirozeně tento přístup od kolébky po hroby v podstatě ignoruje existující soubor obrázků v oběhu a má spotřebitelskou hodnotu jen na velmi omezeném počtu míst, kde byl přijat.

Kolik prstů držím vzhůru?

Ale podstatou je, že chuť po regulaci obsahu generovaného AI, která od počátku roku 2018 prudce vzrostla, je ironicky výzvou k automatizaci nebo delegaci lidského úsudku.

Buď nechceme tuto práci vykonávat a chceme, aby ji za nás prováděly vlády a instituce; nebo necítíme, že by určití lidé – nebo typy lidí – měli být ponecháni, aby tato rozhodnutí činili (postoj, který není poctou těm, kdo jej zastává).

Neřekl jsem už, možná poněkud sklesle, že nebudu zkoumat původ videa koala/kočka? Nevědět, zda je video falešné, a nechtít shromáždit dostatek informací k alespoň informovanějšímu odhadu, mě uvádí do stejného stavu pružné víry, jakou George Orwell popisuje v 1984, kde je hlavní hrdina mučen totalitním státem, dokud není psychologicky schopen držet dvě protichůdné víry:

Z adaptace Michaela Radforda z roku 1984 klasického dystopického sci‑fi románu Orwella, mučený Winston Smith (John Hurt) alespoň přiznává, že čtyři prsty mohou ve skutečnosti odpovídat třem prstům, a že jeho oči nemusí být nutně důvěryhodné. Střih z 1984 (1984), © Metro-Goldwyn-Mayer Studios Inc. / Amazon MGM Studios.

V Orwellově románu postava antagonisty O’Brien (zahraná Richardem Burtonem v adaptaci z roku 1984) výslovně říká svým obětem, že jeho cílem při mučení je učinit jejich víry pružnými, aby mohly – jak vyhovuje totalitnímu státu zobrazovanému v díle – současně držet dvě víry – například že čtyři zvednuté prsty mohou také být tři prsty, pokud to stát vyžaduje.

Tato „pružnost víry“ je přirozeně ceněna mezi influencery všech druhů, protože se obvykle stává ztuhlou v době, kdy voliči – či spotřebitelé – dospějí k žádoucím cílům pro ovlivňování.

Protože pro mě je video koala/kočka obojí „AI“ i „ne‑AI“, učinil jsem první kroky k tomu, abych si zvykal na duální víru; a stal se náchylným k těm, kteří nabízejí zastavit toto blikající, binární vnímání, a říci mi, co je skutečné.

Proto mi napadá, že toto konkrétní zjevení není něco, co by se mělo cenit, ale spíše odolávat. To vnitřní přiznání „nepravdy“, které ke mně přišlo ve formě videa „roztomilých zvířat“, a které by mohlo přijít i vám – nebo ještě přijde – v jiné podobě, je podle všeho nebezpečím pro vlastní schopnost posuzovat a vážit si světa.

Lehčí tón

Lehčím tónem, filozof Joshua Habgood‑Coote zaujal v roce 2024 optimističtější postoj a odmítl „epistemickou apokalypsu“ jako alarmismus kolem ztráty systémů, které byly stejně tak křehké, a – v případě fotografie – poměrně nedávné.

Avšak také tvrdí, v novějším výstupu, že memy „fake news“ a „post‑truth“ byly zneužity pro politické účely, což je alespoň v prvním případě těžko popřít (i když představuje politický oportunismus, spíše než konspiraci).

* A opravdu se ptáte, jestli je tento pohodlný příklad skutečný, nebo jestli jsem jej – s AI nebo bez ní – vyvolal jako rétorické zařízení? Je to skutečné, říkám; pokud má váhu fakt, že nejsem nový hlas v těchto záležitostech, možná mi věříte. Nebo jsem nedávno změnil..?

** To zahrnuje citace v různých položkách v literatuře, včetně The Cambridge Handbook of Generative AI and the Law (for Weights in Machine Learning).

Poprvé publikováno v pátek 4. září 2026. Upraveno několik minut po první publikaci kvůli chybám ohledně koal; a o něco později téhož dne, aby byly doplněny chybějící štítky.