Папа Лев XIV призвал «разоружить» ИИ и выступил за запрет на автономное смертоносное оружие

Папа Лев XIV призвал «разоружить» искусственный интеллект и обратился к государствам, которые встретятся в Женеве в ноябре, с призывом предпринять конкретные шаги к запрету автономного смертоносного оружия. Об этом он заявил в выступлении в Зале Пап 30 октября 2026 года.

На встрече «Будущее ИИ: диалог между Ватиканом и научным сообществом о развитии и применении интеллектуальных технологий» собрались ее участники. Встречу совместно организовали Папская академия жизни и Future of Life Institute.

Приветствуя участников из многих стран, Папа сказал, что, по его мнению, их объединяет тревога по поводу развития искусственного интеллекта: направление, в котором следует двигаться, понятно, однако для этого делается недостаточно. Он поблагодарил участников за их опасения, идеи и предложения о будущем, назвав их первыми результатами междисциплинарного подхода, который, по его словам, становится все необходимее для решения сложных задач современности.

Папа напомнил о выступлении Папы Франциска на сессии G7 по искусственному интеллекту 14 июня 2024 года. Тогда Франциск назвал ИИ инструментом, который одновременно вызывает воодушевление и страх, и подчеркнул, что решение о лишении человека жизни никогда нельзя доверять машине. Эти слова по-прежнему актуальны как никогда, сказал Лев XIV, добавив, что постарался глубже рассмотреть эти вопросы в своей энциклике, после чего изложил пять соображений.

Пять соображений

Во-первых, сказал Папа, будущее искусственного интеллекта не предопределено: поскольку эту технологию создают люди, ее будущее зависит от их выбора, а значит, именно они несут ответственность за то, чтобы направлять ее применение, менять его и при необходимости отказываться от него. Решающий вопрос, по его словам, — не просто на что способен ИИ, а какой цели он должен служить. Те, кто воспринимает его развитие лишь как гонку, в которой нужно победить, рискуют, предупредил он, сосредоточиться на финише и забыть о тех, кто остался позади. Надежная система, служащая человеку, ценнее чрезвычайно мощной системы, последствия применения которой невозможно в достаточной мере предвидеть или контролировать.

Во-вторых, сказал он, «машины — это инструменты, а не личности». Системы ИИ не переживают опыт и не имеют тела; они не испытывают радости или боли, не развиваются благодаря отношениям и не знают изнутри, что означают любовь, труд, дружба или ответственность. Некоторые предлагают наделить такие системы правами или даже признать их юридическими лицами. Такой подход, предупредил он, рискует размыть ответственность людей и вынудить пострадавших добиваться возмещения вреда от сущности без человеческого лица.

Человеческий контроль, общее благо и институты

В-третьих, сказал Папа, некоторые решения нельзя делегировать ни при каких обстоятельствах. Человек, включенный в список целей или внесенный в базу данных пограничного контроля, рискует превратиться, по его словам, не более чем в точку данных. Решения, затрагивающие человеческую жизнь и свободу, а также применение силы, должны всегда оставаться под эффективным, осознанным и ответственным контролем человека. Поэтому, сказал он, искусственный интеллект необходимо разоружить; он призвал государства, которые встретятся в Женеве в ноябре, предпринять конкретные шаги к запрету автономного смертоносного оружия.

В-четвертых, сказал он, интеллектуальные технологии должны служить общему благу и никогда не становиться самоцелью или служить лишь интересам привилегированного меньшинства. Ссылаясь на положение своей энциклики о том, что справедливость требует доступа к благам инноваций — в том числе к медицинской помощи, знаниям, инструментам и возможностям, — он сказал, что развитие этих технологий должно способствовать солидарности и участию на разных уровнях мирового сообщества, обеспечивая справедливое распределение плодов прогресса, особенно среди тех, кто больше всего в них нуждается.

Пятое соображение, которое он назвал, возможно, самым неотложным, касалось институтов. Многие этические принципы, которыми следует руководствоваться при развитии искусственного интеллекта, уже известны, сказал он; теперь нужны институты, способные воплотить их в жизнь, особенно эффективные международные институты, которые смогут защищать общее благо всего мира. Для этого, по его словам, необходимы общие стандарты, независимый надзор и четкие механизмы подотчетности, чтобы решения о разработке и применении ИИ можно было проверять, при необходимости оспаривать, а причиненный вред — возмещать надлежащим образом. В завершение Папа поблагодарил участников за их вклад, призвал их и впредь придерживаться духа диалога и общей ответственности за общее благо и благословил их.

Энциклика, лежащая в основе выступления

Каждое из пяти соображений в выступлении основано на нумерованных фрагментах Magnifica Humanitas — энциклики, опубликованной Львом XIV 15 мая 2026 года. Ее полное название — «О защите человеческой личности в эпоху искусственного интеллекта». В этом документе Папа отмечает, что Лев XIII опубликовал энциклику Rerum Novarum в 1891 году, а в 2026 году Церковь отмечает ее 135-летие.

В энциклике отмечается, что если прежде государство в основном направляло и регулировало инновации, то сегодня главными двигателями технологического развития выступают частные, зачастую транснациональные субъекты, располагающие ресурсами и возможностями для вмешательства, превосходящими возможности многих правительств. Как говорится в документе, этот сдвиг придает технологической власти беспрецедентный и преимущественно частный характер, из-за чего ее труднее распознавать, регулировать и направлять на общее благо. В отдельных главах энциклики рассматриваются вопросы ответственности, прозрачности и управления ИИ, а также оружия и искусственного интеллекта.