Kde jsi byl, když zemřela realita?

Včerejší večer, jako často, přišla moje manželka, aby mi ukázala různé videa a obrázky, které ji po práci pobavily na sociálních sítích. Její výběry jsou výrazně zaměřeny na „roztomilý“ obsah provázaný roztomilými zvířaty a plyšovými postavičkami.

Krátce poté mi ukázala něco, co si uložila, ale ještě neměla čas skutečně shlédnout – video „roztomilá zvířata“ zachycující interakci mezi samičkou koaly, jejími dvěma spícími novorozenci a zvědavou kočkou.

Hned na první pohled jsem se zamyslel, jak by mladá domácí kočka mohla mít přístup do stejného prostoru jako tato divoká zvířata, i kdyby šlo o prostředí či kontext „zoo“. Přesto jsem ten myšlenku zahnal jako otravného komára, protože spadá pod „život je podivný“.

Video ukazovalo statický a poměrně úzký záběr matky koaly a jejích dvou spících potomků, kteří leželi na látce, přičemž matka se opírala o nenápadnou zeď.

Mladá, obezřetná mourovatá kočka vstoupila do záběru, poháněna zvědavostí překonala své obavy a přisedla si k spícím mláďatům – přitom neustále sledovala matku, která by mohla tento zásah považovat za nepříjemný.

Po asi minutě tohoto spekulativního patu matka koala se natáhla a zachytila mladou kočku, držela ji několik okamžiků, což plně odpovídalo relativním hmotnostem a fyziognóziím obou zvířat; poté usadila vetřelce vedle svých potomků jako „přijatelného hosta“. *

Nová kočka pro nový problém

V tu chvíli, zhruba ve stejném okamžiku, jsme s manželkou prohlásili, že toto video je pravděpodobně vytvořeno umělou inteligencí, a vyjádřili jsme, co mohu jen nazvat pocitem „pozastaveného zklamání“; pro nás to byl doslova nový druh Schrödingerovy kočky – konečně z krabice, ale ne nutně živý.

Od té doby jsem video nevyhledával, abych zjistil, zda ti, kteří ho zveřejnili, přiznali jeho neautentičnost; nebo zda bylo poprvé zveřejněno před současností, dříve než bylo možné takový výstup za pár korun vytvořit na řadě webových stránek a portálů; nebo abych sledoval komentáře pod videem, obviňující materiál z toho, že byl vytvořen AI, i když si to nemusí být jisti.

Zda bylo konkrétní video falešné nebo pravé, je bezpodmínečné; co mě zasáhlo, bylo to, že jsem konečně dospěl k dlouho očekávanému epifánickému momentu – že navzdory tomu, že jsem po celých sedm let poskytoval hluboké a intenzivní pokrytí** systémů generovaných AI pro obrázky a videa (a také diskutoval a vytváření systémů pro detekci deepfake) už ani já nemohu věřit tomu, co vidím.

Největší přetrvávající úzké místo pro syntézu AI videí – nekonzistence – není překážkou pro tvorbu druhu krátkého obsahu, který má největší šanci stát se virálním. AI může dokonale a přesně zaplnit naše zmenšené pozornosti, a zatím to tak i dělá; ale zjevně tyto omezení, ačkoliv jsou náročná, budou nakonec překonána.

Proto tato opožděná (a možná i mylná) úvaha o koalím videu zapadá do řady momentů „kde jsem byl“ během života: Máma je na žebříku, maluje strop a rádio oznamuje, že Elvis zemřel; hvězdný destruktor hřmí nad hlavou na Štědrý večer 1977 při veřejném premiérovém představení Star Wars na Leicester Square; T‑Rex uniká ze svého výběhu, opět na Leicester Square, v červenci 1993; Mara říká (italsky) „Pojďte do kuchyně, kluci – v New Yorku se něco děje“; Dívám se na kočku ve videu s koalou a uvědomuji si, že tohle je rok a – pro mě – okamžik, kdy realita zemřela.

(Hej, i když já byl mimo svět, když byl Kennedy zastřelen.)

Odpověď „nepřítel u bran“

K pozdnímu roku 2025, podle jednoho výzkumníka, naše schopnost rozpoznat obrázky vytvořené AI není výrazně nad náhodou, dosahuje 54 %. Vyzkoušejte si test sami – nevedl jsem si s ním dobře a kvalita generativní AI se během následujících osmi nebo devíti měsíců výrazně zlepšila:

Klikněte pro přehrání – Navzdory letům studia, když hodnotím obrázky jako AI‑generované nebo skutečné, dosahuji téměř přesně průměru nalezeného v testech provedených pro citovanou studii. Source 

Washington Post učinila jedno z prvních předpovědí možného post-reálného světa v únoru 2018, jen několik měsíců po tom, co deepfakes založené na autoenkodérech poprvé ohromily svět. Článek rychle přerostl v alarmistické výzvy k regulaci, která se později projevila ve formě legislativy proti sexuálním deepfake; nového zákona EU týkajícího se zveřejňování materiálů vytvořených AI; a autentizačního systému Coalition for Content Provenance and Authenticity (C2PA).

Druhá snaha spočívá v připojení kvalifikačních informací k obrazu po celou dobu jeho existence, od dat senzoru kamery až po publikaci a archivaci, zaznamenávající jakékoli úpravy během cesty, a odpovídajícím způsobem upravuje jeho manifest.

Samozřejmě tento přístup od kolébky až po hrob v podstatě ignoruje existující soubor obrázků v oběhu a má spotřebitelskou hodnotu jen na velmi omezeném počtu míst, kde byl přijat.

Kolik prstů držím?

Ale podstata je, že chuť po regulaci obsahu generovaného AI, která od počátku roku 2018 dramaticky vzrostla, je paradoxně výzvou k automatizaci nebo delegaci lidského úsudku.

Buď nechceme tuto práci vykonávat a chceme, aby ji za nás prováděly vlády a instituce; nebo nepovažujeme za vhodné, aby určité jiné osoby – či typy lidí – rozhodovaly o těchto otázkách (postoj, který není chválou pro ty, kdo jej zastávají).

Neřekl jsem už, možná poněkud sklesle, že nebudu zkoumat původ videa koala/kočka? Nevědět, zda je video falešné, a nechtít shromáždit dostatek informací k alespoň informovanému odhadu, mě uvádí do stejného stavu pružné víry, který George Orwell popisuje v 1984, kde je protagonista mučen totalitním státem, dokud psychologicky nezačne držet dva protichůdné přesvědčení:

V adaptaci Orwellova klasického dystopického sci-fi románu, kterou Michael Radford natočil v roce 1984, začíná zmučený Winston Smith (John Hurt) alespoň připouštět, že čtyři prsty mohou být ve skutečnosti tři a že vlastním očím nemusí být možné věřit. Záběr z filmu 1984 (1984), © Metro-Goldwyn-Mayer Studios Inc. / Amazon MGM Studios.

V Orwellově románu antagonistický charakter O’Brien (v roli Richarda Burtona v adaptaci z roku 1984, zobrazené výše) výslovně říká svým obětem, že jeho cílem při mučení je učinit jejich přesvědčení tvárnými, aby mohly – jak vyhovuje totalitnímu státu v díle – současně držet dvě přesvědčení – například že čtyři zvednuté prsty mohou být také tři, pokud to stát požaduje.

Tato „pružnost víry“ je přirozeně ceněna mezi všemi typy influencerů, protože se obvykle ztuhne v době, kdy voliči – či spotřebitelé – dosáhnou zralosti jako žádoucí cíle pro ovlivňování.

Protože pro mě je video koala/kočka obojí ‚AI‘ i ‚ne‑AI‘, učinil jsem první kroky k tomu, abych si zvykal na duální víru; a stal se náchylným k těm, kteří nabízejí zastavit toto blikající, binární vnímání a říci mi, co je skutečné.

Proto mi připadá, že tato konkrétní epifanie není něco, co by se mělo cenit, ale spíše odolávat. Ten vnitřní ústup k „ne‑realitě“, který ke mně přišel ve formě videa „roztomilá zvířata“ a který mohl přijít i vám – nebo ještě přijde – v jiné podobě, je podle všeho nebezpečím pro schopnost člověka posuzovat a vážit si světa.

Na lehčí notu

Na lehčí notu filozof Joshua Habgood‑Coote zaujal v roce 2024 optimističtější postoj, odmítáce „epistemickou apokalypsu“ jako alarmismus kolem ztráty systémů, které byly i tak křehké a – v případě fotografie – poměrně nedávné.

Ale také tvrdí, v novější publikaci, že memy „fake news“ a „post‑truth“ byly zneužity pro politické účely, což je alespoň v prvním případě těžko popřít (i když představuje politický oportunismus spíše než konspiraci).

* A opravdu se ptáte, zda je tento pohodlný příklad skutečný, nebo jestli jsem ho vyvolal – s AI nebo bez ní – jako rétorické zařízení? Říkám, že je skutečný; pokud má váhu fakt, že jsem ne novým hlasem v těchto otázkách, možná mi věříte. Nebo jsem se nedávno změnil..?

** Toto zahrnuje citace v různých položkách literatury, včetně The Cambridge Handbook of Generative AI and the Law (pro Weights in Machine Learning).

Poprvé publikováno v pátek 4. září 2026. Upraveno několik minut po první publikaci kvůli chybám týkajícím se koal; a o něco později téhož dne, aby byly doplněny chybějící značky.