Papež Lev XIV. vyzývá k „odzbrojení“ umělé inteligence a k zákazu smrtících autonomních zbraní

Papež Lev XIV. vyzval k „odzbrojení“ umělé inteligence a povzbudil státy, které se v listopadu sejdou v Ženevě, aby podnikly konkrétní kroky k zákazu smrtících autonomních zbraní. Uvedl to ve projevu, který přednesl v Sále papežů 30. října 2026.

Setkání s názvem „Budoucnost umělé inteligence: dialog mezi Vatikánem a vědeckým světem o vývoji a využití inteligentních technologií“ spojilo účastníky a pořádaly je společně Pontifical Academy for Life a Future of Life Institute.

Papež přivítal účastníky z mnoha zemí a řekl, že se domnívá, že sdílejí obavy z vývoje umělé inteligence: podle něj je jasné, jakým směrem bychom se měli vydat, nedělá se však dost pro to, abychom se po této cestě vydali. Poděkoval účastníkům za jejich obavy i za nápady a návrhy týkající se budoucnosti. Označil je za první výsledky transdisciplinárního přístupu, který je podle něj stále potřebnější, chceme-li se vypořádat se složitostí velkých výzev současnosti.

Papež připomněl projev papeže Františka z 14. června 2024 na zasedání G7 věnovaném umělé inteligenci, v němž František označil AI za nástroj, který vzbuzuje nadšení i obavy, a zdůraznil, že rozhodnutí připravit člověka o život nesmí být nikdy svěřeno stroji. Tato slova jsou podle Lva XIV. stále stejně aktuální. Dodal, že se otázky pokusil podrobněji rozebrat ve své encyklice, a poté představil pět úvah.

Pět úvah

Papež řekl, že budoucnost umělé inteligence není předem daná: protože tuto technologii vyvíjejí lidé, závisí její budoucnost na jejich rozhodnutích, a lidé proto nesou odpovědnost za to, aby usměrňovali a měnili její využití a v případě potřeby je odmítli. Rozhodující otázkou podle něj je, jakému účelu má AI sloužit, nikoli pouze to, co dokáže. Varoval, že ti, kdo její vývoj považují jen za závod, který je třeba vyhrát, riskují, že se upnou k cílové pásce a zapomenou na ty, kteří zůstali pozadu. Spolehlivý systém, který slouží člověku, má větší hodnotu než mimořádně výkonný systém, jehož důsledky nelze dostatečně předvídat ani kontrolovat.

Za druhé, řekl, „stroje jsou nástroje, nikoli osoby“. Systémy umělé inteligence neprožívají zkušenosti ani nemají tělo; necítí radost ani bolest, nedozrávají prostřednictvím vztahů a zevnitř neznají význam lásky, práce, přátelství ani odpovědnosti. Někteří navrhují přiznat takovým systémům práva, nebo dokonce právní subjektivitu. Papež varoval, že tento přístup může zastřít lidskou odpovědnost a přimět lidi, kteří utrpěli újmu, aby se domáhali nápravy u entity bez lidské tváře.

Lidský dohled, společné dobro a instituce

Papež řekl, že za třetí existují rozhodnutí, která nesmějí být nikdy delegována. Člověku zařazenému na seznam cílů nebo zanesenému do databáze hraniční kontroly podle něj hrozí, že bude redukován téměř jen na údaj. Rozhodnutí ovlivňující lidský život a svobodu i použití síly přitom musí vždy podléhat účinnému, informovanému a odpovědnému lidskému dohledu. Proto je podle něj nutné umělou inteligenci odzbrojit. Státy, které se v listopadu sejdou v Ženevě, povzbudil, aby podnikly konkrétní kroky k zákazu smrtících autonomních zbraní.

Za čtvrté řekl, že inteligentní technologie musí být zaměřeny na společné dobro a nesmějí se nikdy stát cílem samy o sobě ani sloužit pouze zájmům privilegované menšiny. S odkazem na učení své encykliky, podle něhož spravedlnost vyžaduje přístup k přínosům inovací, včetně péče, znalostí, nástrojů a příležitostí, uvedl, že vývoj těchto technologií by měl podporovat solidaritu a zapojení na různých úrovních globálního společenství a zajistit spravedlivé sdílení přínosů pokroku, zejména s těmi, kteří je nejvíce potřebují.

Pátá úvaha, kterou označil za možná nejnaléhavější, se týkala institucí. Mnohé etické zásady, jimiž by se měl vývoj umělé inteligence řídit, jsou již známy, řekl; nyní je třeba institucí, které je dokážou uvést do praxe, zejména účinných mezinárodních institucí schopných chránit globální společné dobro. To podle něj vyžaduje společné standardy, nezávislý dohled a jasné mechanismy odpovědnosti, aby bylo možné rozhodnutí týkající se vývoje a využívání AI zkoumat, v případě potřeby zpochybnit a zajistit náležitou nápravu způsobené újmy. Papež na závěr poděkoval účastníkům za jejich příspěvky, vyzval je, aby vytrvali v duchu dialogu a sdílené odpovědnosti za společné dobro, a udělil jim požehnání.

Encyklika, z níž projev vychází

Pět úvah v projevu vychází z očíslovaných pasáží encykliky Magnifica Humanitas, kterou Lev XIV. vydal 15. května 2026 a jejíž úplný název zní O ochraně lidské osoby v době umělé inteligence. Papež v tomto dokumentu připomíná, že Lev XIII. vydal svou encykliku Rerum Novarum v roce 1891 a že církev si v roce 2026 připomíná 135. výročí jejího vydání.

Encyklika konstatuje, že zatímco stát dříve do značné míry udával směr inovacím a řídil je, hlavními hybateli technologického rozvoje jsou dnes soukromé subjekty, často nadnárodní, disponující zdroji a schopností zasahovat v míře, která převyšuje možnosti mnoha vlád. Tato změna podle dokumentu propůjčuje technologické moci bezprecedentní a převážně soukromý charakter, kvůli němuž je obtížnější ji rozpoznat, řídit a nasměrovat k obecnému dobru. Jednotlivé kapitoly se samostatně věnují odpovědnosti, transparentnosti a správě umělé inteligence i zbraním a umělé inteligenci.