Pave Leo XIV ber om å «avvæpne» KI og oppfordrer til forbud mot dødelige autonome våpen

Pave Leo XIV ba om at kunstig intelligens må «avvæpnes», og oppfordret statene som møtes i Genève i november, til å ta konkrete skritt for å forby dødelige autonome våpen. Dette sa han i en tale i Pavens sal 30. oktober 2026.

Møtet samlet deltakere til «KI-framtiden: En dialog mellom Vatikanet og forskningsmiljøene om utviklingen og bruken av intelligente teknologier», arrangert i fellesskap av Pontifical Academy for Life og Future of Life Institute.

Paven ønsket deltakere fra mange land velkommen og sa at han tror de deler en uro over utviklingen av kunstig intelligens: De ser hvilken retning utviklingen bør ta, sa han, men det gjøres ikke nok for å bevege seg i den retningen. Han takket deltakerne for bekymringene deres og for ideene og forslagene deres for framtiden. Han beskrev dem som tidlige resultater av en tverrfaglig tilnærming, som han sa blir stadig mer nødvendig for å kunne håndtere kompleksiteten i vår tids store utfordringer.

Paven viste til pave Frans’ tale om kunstig intelligens under G7-møtet 14. juni 2024. Der beskrev Frans KI som et verktøy som vekker både begeistring og frykt, og slo fast at beslutningen om å ta et menneskeliv aldri må overlates til en maskin. Disse ordene er like relevante som alltid, sa Leo XIV. Han la til at han hadde forsøkt å gå grundigere inn i spørsmålene i encyklikaen sin, før han presenterte fem betraktninger.

De fem betraktningene

For det første sa paven at framtiden for kunstig intelligens ikke er forhåndsbestemt: Fordi det er mennesker som utvikler teknologien, avhenger framtiden av valgene de tar. Mennesker har derfor et ansvar for å styre og endre bruksområdene og, når det er nødvendig, avvise dem. Det avgjørende spørsmålet er hvilket formål KI skal tjene, ikke bare hva den kan gjøre, sa han. Han advarte om at de som bare ser utviklingen som et kappløp som skal vinnes, risikerer å bli så opptatt av mållinjen at de glemmer dem som blir hengende etter. Et pålitelig system som tjener mennesket, er mer verdifullt enn et eksepsjonelt kraftig system med konsekvenser som man ikke kan forutse eller kontrollere godt nok.

For det andre sa han at «maskiner er verktøy, ikke personer». KI-systemer har ingen opplevelser og ingen kropp. De føler verken glede eller smerte, modnes ikke gjennom relasjoner og vet ikke av egen erfaring hva kjærlighet, arbeid, vennskap eller ansvar betyr. Noen foreslår å gi slike systemer rettigheter eller til og med juridisk status som personer. Han advarte om at en slik tilnærming kan tilsløre menneskers ansvar og tvinge dem som blir skadet, til å søke oppreisning fra en enhet uten et menneskelig ansikt.

Menneskelig tilsyn, fellesskapets beste og institusjoner

For det tredje sa paven at visse beslutninger aldri må delegeres. En person som føres opp på en målliste eller registreres i en grensekontrolldatabase, risikerer å bli redusert til lite mer enn et datapunkt, sa han. Beslutninger som påvirker menneskeliv og frihet, og beslutninger om bruk av makt, må alltid være underlagt et effektivt, informert og ansvarlig menneskelig tilsyn. Derfor må kunstig intelligens avvæpnes, sa han, og oppfordret statene som møtes i Genève i november, til å ta konkrete skritt for å forby dødelige autonome våpen.

For det fjerde sa han at intelligente teknologier må rettes mot fellesskapets beste og aldri bli mål i seg selv eller bare tjene interessene til noen få privilegerte. Han viste til encyklikaens lære om at rettferdighet krever tilgang til innovasjonens goder, blant annet omsorg, kunnskap, verktøy og muligheter. Utviklingen av disse teknologiene bør fremme solidaritet og deltakelse på ulike nivåer i det globale fellesskapet, sa han, slik at framskrittets goder fordeles rettferdig, særlig til dem som trenger dem mest.

Den femte betraktningen, som han kalte kanskje den mest presserende, handlet om institusjoner. Mange av de etiske prinsippene som bør styre utviklingen av kunstig intelligens, er allerede kjent, sa han. Det som trengs nå, er institusjoner som kan omsette dem i praksis, særlig effektive internasjonale institusjoner som kan verne om det globale fellesskapets beste. Det krever felles standarder, uavhengig tilsyn og tydelige mekanismer for ansvarliggjøring, sa han, slik at beslutninger om utvikling og bruk av KI kan granskes, utfordres når det er nødvendig, og følges av egnede tiltak for å bøte på skader som er forårsaket. Paven avsluttet med å takke deltakerne for bidragene deres og oppfordre dem til å holde fast ved en ånd av dialog og delt ansvar for fellesskapets beste. Deretter velsignet han dem.

Encyklikaen bak talen

Talen forankrer hver av de fem betraktningene i nummererte avsnitt i Magnifica Humanitas, encyklikaen Leo XIV utga 15. mai 2026, med full tittel Om å verne mennesket i kunstig intelligens’ tidsalder. I dokumentet påpeker paven at Leo XIII utga encyklikaen sin Rerum Novarum i 1891, og at Kirken markerer dokumentets 135-årsjubileum i 2026.

Encyklikaen påpeker at det tidligere i stor grad var staten som styrte og ledet innovasjonen, mens de viktigste drivkreftene bak den teknologiske utviklingen i dag er private aktører, ofte transnasjonale, med ressurser og evne til å gripe inn som overgår det mange regjeringer har. Denne endringen gir, ifølge dokumentet, den teknologiske makten en enestående og i hovedsak privat karakter, noe som gjør den vanskeligere å gjennomskue, styre og lede mot det felles beste. Kapitlene behandler blant annet ansvar, åpenhet og styring av kunstig intelligens, samt våpen og kunstig intelligens.