Папа Лев XIV закликає «роззброїти» ШІ та виступає за заборону летальної автономної зброї

Папа Лев XIV закликав «роззброїти» штучний інтелект і заохотив держави, які зустрінуться в Женеві в листопаді, зробити конкретні кроки до заборони летальної автономної зброї. Про це він заявив у промові, виголошеній у Залі пап 30 жовтня 2026 року.

На зустрічі «Майбутнє ШІ: діалог між Ватиканом і науковою спільнотою про розвиток та застосування інтелектуальних технологій» зібралися її учасники. Захід спільно організували Папська академія «За життя» та Future of Life Institute.

Вітаючи учасників із багатьох країн, Папа сказав, що, на його думку, їх об’єднує занепокоєння розвитком штучного інтелекту: напрям, у якому слід рухатися, зрозумілий, однак для цього робиться недостатньо. Він подякував учасникам за їхнє занепокоєння, а також за ідеї та пропозиції щодо майбутнього, назвавши їх першими результатами трансдисциплінарного підходу, який, за його словами, стає дедалі необхіднішим для подолання складності найважливіших викликів сучасності.

Папа нагадав про промову Папи Франциска від 14 червня 2024 року на засіданні G7, присвяченому штучному інтелекту. Тоді Франциск назвав ШІ інструментом, який водночас викликає захоплення і страх, і наголосив, що рішення позбавити людину життя ніколи не можна доручати машині. За словами Лева XIV, ці слова залишаються такими ж актуальними, як і раніше. Він додав, що у своїй енцикліці спробував глибше розглянути ці питання, а потім виклав п’ять міркувань.

П’ять міркувань

По-перше, сказав Папа, майбутнє штучного інтелекту не визначене наперед: оскільки цю технологію розробляють люди, її майбутнє залежить від їхніх рішень. Тож люди несуть відповідальність за те, щоб спрямовувати й змінювати способи її застосування, а за потреби — відмовлятися від них. За його словами, вирішальне питання полягає в тому, якій меті має служити ШІ, а не просто в тому, що він здатен робити. Він застеріг, що ті, хто сприймає його розвиток лише як перегони, які потрібно виграти, ризикують зосередитися на фініші й забути про тих, хто залишився позаду. Надійна система, яка служить людині, цінніша за надзвичайно потужну систему, наслідки роботи якої неможливо належним чином передбачити чи контролювати.

По-друге, сказав він, «машини — це інструменти, а не особи». Системи ШІ не переживають досвіду й не мають тіла; вони не відчувають радості чи болю, не дорослішають завдяки стосункам і не можуть зсередини осягнути значення любові, праці, дружби чи відповідальності. Дехто пропонує наділити такі системи правами або навіть визнати їх юридичними особами. Папа застеріг, що такий підхід ризикує затушувати людську відповідальність і змусити постраждалих шукати відшкодування в суб’єкта, який не має людського обличчя.

Людський нагляд, спільне благо та інституції

По-третє, сказав Папа, деякі рішення ніколи не можна делегувати. Людина, внесена до списку цілей або до бази даних прикордонного контролю, ризикує перетворитися на просту одиницю даних. Рішення, що впливають на людське життя, свободу та застосування сили, завжди мають перебувати під ефективним, поінформованим і відповідальним наглядом людини. Саме тому, сказав він, штучний інтелект необхідно роззброїти. Папа закликав держави, які зустрінуться в Женеві в листопаді, зробити конкретні кроки до заборони летальної автономної зброї.

По-четверте, сказав він, інтелектуальні технології мають служити спільному благу й ніколи не повинні ставати самоціллю або служити лише інтересам привілейованої меншості. Посилаючись на вчення своєї енцикліки про те, що справедливість вимагає доступу до переваг інновацій, зокрема до медичної допомоги, знань, інструментів і можливостей, він сказав, що розвиток цих технологій має сприяти солідарності та участі на різних рівнях світової спільноти, забезпечуючи справедливий розподіл здобутків прогресу, особливо серед тих, хто найбільше цього потребує.

П’яте міркування, яке він назвав, можливо, найнагальнішим, стосувалося інституцій. За його словами, багато етичних принципів, якими має керуватися розвиток штучного інтелекту, вже відомі; тепер потрібні інституції, здатні втілити їх на практиці, зокрема дієві міжнародні інституції, які можуть захищати спільне благо всього світу. Для цього, сказав він, потрібні спільні стандарти, незалежний нагляд і чіткі механізми підзвітності, щоб рішення щодо розробки та використання ШІ можна було аналізувати, за потреби оскаржувати, а завдану шкоду — належно відшкодовувати. На завершення Папа подякував учасникам за їхній внесок, закликав їх наполегливо продовжувати роботу в дусі діалогу та спільної відповідальності за спільне благо й уділив своє благословення.

Енцикліка, покладена в основу промови

У промові кожне з п’яти міркувань обґрунтовано посиланнями на нумеровані фрагменти Magnifica Humanitas — енцикліки, виданої Левом XIV 15 травня 2026 року під повною назвою «Про захист людської особи в добу штучного інтелекту». У цьому документі Папа зазначає, що Лев XIII опублікував свою енцикліку Rerum Novarum у 1891 році, а 2026 року Церква відзначає 135-ту річницю цього документа.

В енцикліці зазначено, що якщо раніше інноваціями здебільшого керувала й спрямовувала їх держава, то сьогодні головними рушіями технологічного розвитку є приватні, часто транснаціональні суб’єкти, які мають більше ресурсів і можливостей для втручання, ніж багато урядів. Як зазначається в документі, ця зміна надає технологічній владі безпрецедентного, переважно приватного характеру, через що її важче розпізнати, регулювати та спрямовувати на спільне благо. Окремі розділи енцикліки присвячені питанням відповідальності, прозорості й управління ШІ, а також зброї та штучного інтелекту.