Paus Leo XIV roept op AI te ‘ontwapenen’ en dringt aan op een verbod op dodelijke autonome wapens

Paus Leo XIV riep op kunstmatige intelligentie te ‘ontwapenen’ en moedigde de staten die in november in Genève bijeenkomen aan concrete stappen te zetten richting een verbod op dodelijke autonome wapens. Dat deed hij in een toespraak die hij op 30 oktober 2026 uitsprak in de Zaal van de Pausen.

De bijeenkomst bracht deelnemers samen voor ‘De toekomst van AI: een dialoog tussen het Vaticaan en de wetenschappelijke wereld over de ontwikkelingen en toepassingen van intelligente technologieën’. De bijeenkomst was gezamenlijk georganiseerd door de Pontificale Academie voor het Leven en het Future of Life Institute.

De paus heette de aanwezigen uit tal van landen welkom en zei te geloven dat zij zich allemaal zorgen maken over de ontwikkeling van kunstmatige intelligentie: volgens hem is duidelijk welke richting moet worden ingeslagen, maar wordt er niet genoeg gedaan om die weg te volgen. Hij bedankte de deelnemers voor hun zorgen en voor hun ideeën en voorstellen voor de toekomst. Die noemde hij eerste resultaten van een transdisciplinaire benadering, die volgens hem steeds noodzakelijker wordt om de complexiteit van de grote uitdagingen van deze tijd het hoofd te bieden.

De paus herinnerde aan de toespraak die paus Franciscus op 14 juni 2024 hield tijdens de G7-bijeenkomst over kunstmatige intelligentie. Daarin omschreef Franciscus AI als een instrument dat zowel enthousiasme als angst oproept, en benadrukte hij dat de beslissing om een mensenleven te nemen nooit aan een machine mag worden toevertrouwd. Die woorden zijn volgens Leo XIV nog altijd even relevant. Hij voegde eraan toe dat hij in zijn encycliek had geprobeerd dieper op de vragen in te gaan, voordat hij vijf overwegingen uiteenzette.

De vijf overwegingen

Ten eerste, zei de paus, ligt de toekomst van kunstmatige intelligentie niet vooraf vast: omdat mensen de technologie ontwikkelen, hangt haar toekomst af van de keuzes die zij maken. Mensen dragen daarom de verantwoordelijkheid om de toepassingen ervan richting te geven en te veranderen en, waar nodig, ze af te wijzen. De doorslaggevende vraag is volgens hem welk doel AI moet dienen, en niet alleen wat AI kan. Wie de ontwikkeling ervan uitsluitend ziet als een race die gewonnen moet worden, loopt volgens hem het risico zich blind te staren op de finish en degenen die achterblijven te vergeten. Een betrouwbaar systeem dat de mens dient, is waardevoller dan een uitzonderlijk krachtig systeem waarvan de gevolgen niet voldoende kunnen worden voorzien of beheerst.

Ten tweede, zei hij, zijn ‘machines hulpmiddelen, geen personen’. AI-systemen doen geen ervaringen op en hebben geen lichaam; ze voelen geen vreugde of pijn, ontwikkelen zich niet door relaties en weten niet uit eigen ervaring wat liefde, werk, vriendschap of verantwoordelijkheid betekenen. Sommigen stellen voor zulke systemen rechten of zelfs rechtspersoonlijkheid toe te kennen. Volgens hem dreigt die benadering de menselijke verantwoordelijkheid te verhullen en mensen die schade lijden ertoe te dwingen genoegdoening te zoeken bij een entiteit zonder menselijk gezicht.

Menselijk toezicht, het algemeen belang en instellingen

Ten derde, zei de paus, mogen bepaalde beslissingen nooit worden gedelegeerd. Iemand die op een lijst met doelwitten wordt geplaatst of in een grenscontroledatabase wordt opgenomen, dreigt volgens hem niet meer dan een datapunt te worden. Beslissingen die gevolgen hebben voor mensenlevens, vrijheid en het gebruik van geweld moeten altijd onder effectief, geïnformeerd en verantwoordelijk menselijk toezicht blijven staan. Daarom moet kunstmatige intelligentie worden ontwapend, zei hij, en moedigde hij de staten die in november in Genève bijeenkomen aan concrete stappen te zetten richting een verbod op dodelijke autonome wapens.

Ten vierde, zei hij, moeten intelligente technologieën worden ingezet voor het algemeen belang. Ze mogen nooit doelen op zichzelf worden of uitsluitend de belangen van een bevoorrechte minderheid dienen. Hij verwees naar de leer in zijn encycliek dat rechtvaardigheid toegang vereist tot de voordelen van innovatie, waaronder zorg, kennis, hulpmiddelen en kansen. De ontwikkeling van deze technologieën moet volgens hem solidariteit en participatie op verschillende niveaus van de wereldgemeenschap bevorderen, zodat de voordelen van vooruitgang eerlijk worden gedeeld, vooral met degenen die daar het meest behoefte aan hebben.

Zijn vijfde overweging, die hij misschien wel de dringendste noemde, ging over instellingen. Veel ethische beginselen die richting moeten geven aan de ontwikkeling van kunstmatige intelligentie zijn al bekend, zei hij; nu zijn instellingen nodig die ze in praktijk kunnen brengen, met name doeltreffende internationale instellingen die het mondiale algemeen belang kunnen beschermen. Daarvoor zijn gedeelde normen, onafhankelijk toezicht en duidelijke verantwoordingsmechanismen nodig, zei hij, zodat beslissingen over de ontwikkeling en het gebruik van AI kunnen worden onderzocht, waar nodig kunnen worden aangevochten en gepaard kunnen gaan met passende herstelmaatregelen voor veroorzaakte schade. De paus sloot af met een dankwoord aan de deelnemers voor hun bijdragen. Hij spoorde hen aan vol te houden in een geest van dialoog en gedeelde verantwoordelijkheid voor het algemeen belang en sprak zijn zegen uit.

De encycliek achter de toespraak

De toespraak baseert elk van de vijf overwegingen op genummerde passages uit Magnifica Humanitas, de encycliek die Leo XIV op 15 mei 2026 uitvaardigde en die als volledige titel Over de bescherming van de menselijke persoon in het tijdperk van kunstmatige intelligentie heeft. In dat document merkt de paus op dat Leo XIII zijn encycliek Rerum Novarum in 1891 publiceerde en dat de Kerk in 2026 de 135e verjaardag van het document viert.

De encycliek merkt op dat innovatie vroeger grotendeels door de staat werd begeleid en aangestuurd, terwijl de belangrijkste aanjagers van de technologische ontwikkeling tegenwoordig private, vaak transnationale partijen zijn, die over meer middelen en een grotere capaciteit om in te grijpen beschikken dan veel regeringen. Volgens het document geeft die verschuiving de technologische macht een ongekend en overwegend privaat karakter, waardoor ze moeilijker te doorgronden en te besturen is en moeilijker op het algemeen welzijn kan worden gericht. De encycliek bevat afzonderlijke hoofdstukken over verantwoordelijkheid, transparantie en het bestuur van AI, en over wapens en kunstmatige intelligentie.