Pave Leo XIV opfordrer til at “afvæbne” AI og forbyde dødelige autonome våben

Pave Leo XIV opfordrede til, at kunstig intelligens blev “afvæbnet”, og opfordrede de stater, der mødes i Genève i november, til at tage konkrete skridt hen imod et forbud mod dødelige autonome våben i en tale, som han holdt i Pavesalen den 30. oktober 2026.

Arrangementet samlede deltagere til »AI’s fremtid: En dialog mellem Vatikanet og den videnskabelige verden om udviklingen og anvendelserne af intelligente teknologier«, et møde arrangeret i fællesskab af Pontifical Academy for Life og Future of Life Institute.

Paven bød deltagere fra mange lande velkommen og sagde, at han tror, de deler en følelse af uro over udviklingen inden for kunstig intelligens: Det er klart, hvilken retning man bør vælge, sagde han, men der bliver ikke gjort nok for at bevæge sig i den retning. Han takkede deltagerne for deres bekymringer og for deres idéer og forslag til fremtiden og beskrev dem som tidlige resultater af en tværdisciplinær tilgang, som efter hans mening bliver stadig mere nødvendig, hvis tidens store udfordringer skal håndteres.

Paven mindede om pave Frans’ tale den 14. juni 2024 ved G7-sessionen om kunstig intelligens. Her beskrev Frans AI som et redskab, der både vækker begejstring og frygt, og slog fast, at beslutningen om at tage et menneskeliv aldrig må overlades til en maskine. Disse ord er stadig lige så relevante som altid, sagde Leo XIV, og tilføjede, at han i sin encyklika havde forsøgt at behandle spørgsmålene mere indgående, inden han fremlagde fem overvejelser.

De fem overvejelser

For det første sagde paven, at kunstig intelligens’ fremtid ikke er forudbestemt: Fordi mennesker udvikler teknologien, afhænger dens fremtid af de valg, mennesker træffer. Derfor har mennesker ansvaret for at styre og ændre dens anvendelser og om nødvendigt afvise dem. Det afgørende spørgsmål er, hvilket formål AI skal tjene, snarere end blot hvad den kan gøre, sagde han. Han advarede om, at de, der betragter udviklingen som et kapløb, der skal vindes, risikerer at fokusere på målstregen og glemme dem, der bliver ladt tilbage. Et pålideligt system, der tjener mennesket, er mere værdifuldt end et usædvanligt kraftfuldt system, hvis konsekvenser ikke kan forudses eller kontrolleres tilstrækkeligt.

For det andet sagde han: »Maskiner er redskaber, ikke personer.« AI-systemer gør sig ikke erfaringer og har ikke en krop; de føler ikke glæde eller smerte, modnes ikke gennem relationer og ved ikke indefra, hvad kærlighed, arbejde, venskab eller ansvar betyder. Nogle foreslår at give sådanne systemer rettigheder eller endda juridisk personlighed. Han advarede om, at denne tilgang risikerer at sløre menneskers ansvar og tvinge mennesker, der lider skade, til at søge oprejsning hos en enhed uden menneskeligt ansigt.

Menneskeligt tilsyn, almenvellet og institutionerne

For det tredje sagde paven, at visse beslutninger aldrig må uddelegeres. En person, der sættes på en målliste eller registreres i en database til grænsekontrol, risikerer at blive reduceret til lidt mere end et datapunkt, sagde han, og beslutninger, der påvirker menneskeliv, frihed og anvendelse af magt, skal altid være underlagt et effektivt, velinformeret og ansvarligt menneskeligt tilsyn. Derfor skal kunstig intelligens afvæbnes, sagde han, og opfordrede de stater, der mødes i Genève i november, til at tage konkrete skridt hen imod et forbud mod dødelige autonome våben.

For det fjerde sagde han, at intelligente teknologier skal rettes mod almenvellet og aldrig må blive mål i sig selv eller udelukkende tjene en privilegeret minoritets interesser. Med henvisning til sin encyklikas lære om, at retfærdighed kræver adgang til innovationens goder, herunder omsorg, viden, redskaber og muligheder, sagde han, at udviklingen af disse teknologier bør fremme solidaritet og deltagelse på forskellige niveauer i det globale samfund og sikre, at fremskridtets goder deles retfærdigt, især med dem, der har størst behov.

Hans femte overvejelse, som han kaldte måske den mest presserende, handlede om institutioner. Mange af de etiske principper, der bør vejlede udviklingen af kunstig intelligens, er allerede kendte, sagde han; det, der nu er brug for, er institutioner, som kan omsætte dem til praksis, især effektive internationale institutioner, der kan beskytte det globale almenvel. Det kræver fælles standarder, uafhængigt tilsyn og klare mekanismer for ansvarlighed, sagde han, så beslutninger om udvikling og brug af AI kan granskes, anfægtes, når det er nødvendigt, og ledsages af passende afhjælpning af den forvoldte skade. Paven afsluttede med at takke deltagerne for deres bidrag, opfordre dem til at fortsætte i en ånd af dialog og fælles ansvar for almenvellet og give sin velsignelse.

Encyklikaen bag talen

Talen forankrer hver af sine fem overvejelser i nummererede afsnit af Magnifica Humanitas, den encyklika, Leo XIV udgav den 15. maj 2026, og hvis fulde titel er Om beskyttelsen af mennesket i kunstig intelligens’ tidsalder. I dokumentet bemærker paven, at Leo XIII udgav sin encyklika Rerum Novarum i 1891, og at kirken fejrer dokumentets 135-årsdag i 2026.

Encyklikaen bemærker, at innovationen tidligere i vid udstrækning blev styret og ledet af staten, mens de vigtigste drivkræfter bag den teknologiske udvikling i dag er private, ofte transnationale aktører med ressourcer og en evne til at gribe ind, der overgår mange regeringers. Ifølge dokumentet giver dette skifte den teknologiske magt en hidtil uset og overvejende privat karakter, som gør den sværere at gennemskue, styre og lede i retning af det fælles bedste. Dens kapitler indeholder særskilte behandlinger af ansvar, gennemsigtighed og styring af kunstig intelligens samt af våben og kunstig intelligens.