Påve Leo XIV uppmanar till att ”avväpna” AI och vill se förbud mot dödliga autonoma vapen

Påve Leo XIV uppmanade till att artificiell intelligens skulle ”avväpnas” och uppmuntrade de stater som samlas i Genève i november att ta konkreta steg mot ett förbud mot dödliga autonoma vapen i ett anförande som hölls i Påvarnas sal den 30 oktober 2026.

Mötet samlade deltagare till ”AI:s framtid: en dialog mellan Vatikanen och den vetenskapliga världen om utvecklingen och tillämpningarna av intelligent teknik”, ett möte som arrangerades gemensamt av Pontifical Academy for Life och Future of Life Institute.

När påven hälsade deltagare från många länder välkomna sade han att han tror att de delar en oro över utvecklingen av artificiell intelligens: det är tydligt vilken riktning man bör ta, sade han, men alltför lite görs för att gå den vägen. Han tackade deltagarna för deras oro och för deras idéer och förslag inför framtiden och beskrev dem som tidiga resultat av ett tvärdisciplinärt angreppssätt, som enligt honom blir alltmer nödvändigt om vår tids stora utmaningar ska kunna hanteras i all sin komplexitet.

Påven erinrade om påve Franciskus anförande om artificiell intelligens vid G7-mötet den 14 juni 2024, där Franciskus beskrev AI som ett verktyg som väcker både entusiasm och rädsla och slog fast att beslutet att ta en människas liv aldrig får överlåtas åt en maskin. Dessa ord är lika aktuella som någonsin, sade Leo XIV och tillade att han hade försökt behandla frågorna mer ingående i sin encyklika innan han presenterade fem överväganden.

De fem övervägandena

För det första sade påven att artificiell intelligens framtid inte är förutbestämd: eftersom det är människor som utvecklar tekniken beror dess framtid på de val människor gör, och därför har de också ett ansvar att styra och förändra dess tillämpningar och, när det behövs, avvisa dem. Den avgörande frågan är, sade han, vilket syfte AI bör tjäna, inte bara vad den kan göra. De som ser utvecklingen enbart som ett lopp som ska vinnas riskerar, varnade han, att fixera sig vid mållinjen och glömma dem som lämnats bakom. Ett tillförlitligt system som tjänar människan är mer värdefullt än ett exceptionellt kraftfullt system vars följder inte kan förutses eller kontrolleras på ett tillfredsställande sätt.

För det andra sade han att ”maskiner är verktyg, inte personer”. AI-system har inga upplevelser och ingen kropp; de känner varken glädje eller smärta, mognar inte genom relationer och vet inte av egen erfarenhet vad kärlek, arbete, vänskap eller ansvar innebär. Vissa föreslår att sådana system ska tillerkännas rättigheter eller till och med juridisk personlighet, en hållning som enligt hans varning riskerar att skymma människors ansvar och tvinga dem som drabbas av skada att söka upprättelse från en aktör utan mänskligt ansikte.

Mänsklig tillsyn, det gemensamma bästa och institutioner

För det tredje sade påven att vissa beslut aldrig får delegeras. En person som förs upp på en mållista eller registreras i en gränskontrolldatabas riskerar att reduceras till lite mer än en datapunkt, sade han, och beslut som påverkar människors liv och frihet eller rör användningen av våld måste alltid stå under effektiv, välinformerad och ansvarsfull mänsklig tillsyn. Därför måste artificiell intelligens avväpnas, sade han, och han uppmuntrade de stater som samlas i Genève i november att ta konkreta steg mot ett förbud mot dödliga autonoma vapen.

För det fjärde sade han att intelligent teknik måste inriktas på det gemensamma bästa och aldrig får bli ett självändamål eller enbart tjäna en privilegierad minoritets intressen. Med hänvisning till encyklikans lära om att rättvisa kräver tillgång till innovationens fördelar, däribland vård, kunskap, verktyg och möjligheter, sade han att utvecklingen av denna teknik bör främja solidaritet och delaktighet på olika nivåer i det globala samfundet och säkerställa att framstegens fördelar fördelas rättvist, särskilt till dem som behöver dem mest.

Hans femte övervägande, som han kallade kanske det mest brådskande, handlade om institutioner. Många av de etiska principer som bör vägleda utvecklingen av artificiell intelligens är redan kända, sade han; det som nu behövs är institutioner som kan omsätta dem i praktiken, i synnerhet effektiva internationella institutioner som kan värna det globala gemensamma bästa. Det kräver gemensamma standarder, oberoende tillsyn och tydliga mekanismer för ansvarsutkrävande, sade han, så att beslut om utveckling och användning av AI kan granskas, ifrågasättas när det behövs och följas av lämplig gottgörelse för den skada som orsakas. Påven avslutade med att tacka deltagarna för deras insatser, uppmana dem att hålla fast vid en anda av dialog och gemensamt ansvar för det gemensamma bästa samt ge sin välsignelse.

Encyklikan bakom anförandet

Anförandet förankrar vart och ett av sina fem överväganden i numrerade avsnitt i Magnifica Humanitas, den encyklika som Leo XIV utfärdade den 15 maj 2026 och vars fullständiga titel är Om att värna människan i artificiell intelligens tidevarv. I dokumentet konstaterar påven att Leo XIII publicerade sin encyklika Rerum Novarum 1891 och att kyrkan firar dokumentets 135-årsjubileum 2026.

Encyklikan konstaterar att det tidigare främst var staten som vägledde och styrde innovationen, medan de viktigaste drivkrafterna bakom den tekniska utvecklingen i dag är privata, ofta transnationella aktörer med resurser och en förmåga att ingripa som överstiger många regeringars. Enligt dokumentet innebär denna förändring att den tekniska makten får en tidigare oöverträffad och övervägande privat karaktär, vilket gör den svårare att urskilja, styra och inrikta på det gemensamma bästa. I kapitlen behandlas särskilt ansvar, transparens och styrningen av AI samt vapen och artificiell intelligens.