Paavi Leo XIV kehottaa ”riisumaan tekoälyn aseista” ja vaatii tappavien autonomisten aseiden kieltämistä

Paavi Leo XIV kehotti ”riisumaan tekoälyn aseista” ja kannusti marraskuussa Genevessä kokoontuvia valtioita ryhtymään konkreettisiin toimiin tappavien autonomisten aseiden kieltämiseksi puheessaan, jonka hän piti paavien salissa 30. lokakuuta 2026.

Tilaisuuteen kokoontui osallistujia konferenssiin ”Tekoälyn tulevaisuus: vuoropuhelu Vatikaanin ja tiedemaailman välillä älykkäiden teknologioiden kehityksestä ja sovelluksista”. Konferenssin järjestivät yhdessä Pontifical Academy for Life ja Future of Life Institute.

Paavi toivotti tervetulleiksi monista maista saapuneet osallistujat ja sanoi uskovansa, että heitä yhdistää huoli tekoälyn kehityksestä: suunta, johon pitäisi kulkea, on hänen mukaansa tunnistettu, mutta sen edistämiseksi ei tehdä tarpeeksi. Hän kiitti osallistujia heidän huolenaiheistaan sekä tulevaisuutta koskevista ajatuksistaan ja ehdotuksistaan. Hän kuvaili niitä ensimmäisiksi tuloksiksi tieteenalarajat ylittävästä lähestymistavasta, jota hänen mukaansa tarvitaan yhä enemmän, jotta aikamme suurten haasteiden monimutkaisuuteen voidaan vastata.

Paavi muisteli paavi Franciscuksen 14. kesäkuuta 2024 pitämää puhetta G7-kokouksen tekoälyistunnossa. Franciscus kuvaili siinä tekoälyä työkaluksi, joka herättää sekä innostusta että pelkoa, ja totesi, ettei päätöstä ihmiselämän riistämisestä saa koskaan uskoa koneelle. Leo XIV:n mukaan nämä sanat ovat yhä yhtä ajankohtaisia. Hän lisäsi pyrkineensä käsittelemään kysymyksiä perusteellisemmin kiertokirjeessään, ennen kuin hän esitteli viisi huomioitavaa seikkaa.

Viisi huomioitavaa seikkaa

Ensinnäkin paavi sanoi, ettei tekoälyn tulevaisuutta ole ennalta määrätty: koska ihmiset kehittävät teknologiaa, sen tulevaisuus riippuu ihmisten tekemistä valinnoista. Ihmisillä on siksi vastuu ohjata ja muuttaa sen sovelluksia ja tarvittaessa myös hylätä ne. Ratkaiseva kysymys on hänen mukaansa se, mitä tarkoitusta tekoälyn pitäisi palvella, ei vain se, mihin se pystyy. Hän varoitti, että jos sen kehitys nähdään vain voitettavana kilpailuna, vaarana on keskittyä maaliviivaan ja unohtaa jälkeen jäävät. Ihmistä palveleva luotettava järjestelmä on arvokkaampi kuin poikkeuksellisen tehokas järjestelmä, jonka seurauksia ei pystytä riittävästi ennakoimaan tai hallitsemaan.

Toiseksi hän sanoi, että ”koneet ovat työkaluja, eivät henkilöitä”. Tekoälyjärjestelmät eivät koe asioita eivätkä omaa kehoa. Ne eivät tunne iloa tai kipua, kypsy ihmissuhteissa eivätkä tiedä omakohtaisesti, mitä rakkaus, työ, ystävyys tai vastuu merkitsevät. Jotkut ehdottavat tällaisille järjestelmille oikeuksia tai jopa oikeushenkilön asemaa. Paavi varoitti, että tällainen lähestymistapa voi hämärtää ihmisten vastuuta ja pakottaa vahinkoa kärsineet hakemaan oikeutta taholta, jolla ei ole ihmiskasvoja.

Ihmisen valvonta, yhteinen hyvä ja instituutiot

Kolmanneksi paavi sanoi, ettei tiettyjä päätöksiä saa koskaan siirtää muiden tehtäväksi. Hän totesi, että maalitauluksi valittu tai rajavalvonnan tietokantaan kirjattu ihminen voi pelkistyä tuskin muuksi kuin datapisteeksi. Ihmisten elämään ja vapauteen sekä voimankäyttöön vaikuttavien päätösten on aina pysyttävä tehokkaan, tietoon perustuvan ja vastuullisen ihmisen valvonnan alaisina. Siksi tekoäly on hänen mukaansa riisuttava aseista. Hän kannusti marraskuussa Genevessä kokoontuvia valtioita ryhtymään konkreettisiin toimiin tappavien autonomisten aseiden kieltämiseksi.

Neljänneksi hän sanoi, että älykkäitä teknologioita on suunnattava yhteisen hyvän edistämiseen, eivätkä ne saa koskaan muuttua itseisarvoiksi tai palvella vain etuoikeutetun harvalukuisen joukon etuja. Hän viittasi kiertokirjeensä opetukseen, jonka mukaan oikeudenmukaisuus edellyttää pääsyä innovaatioiden hyötyjen äärelle, kuten hoivaan, tietoon, välineisiin ja mahdollisuuksiin. Näiden teknologioiden kehityksen pitäisi hänen mukaansa edistää solidaarisuutta ja osallistumista maailmanyhteisön eri tasoilla sekä varmistaa, että edistyksen hyödyt jaetaan oikeudenmukaisesti, erityisesti eniten tarvitseville.

Viides huomio, jota hän piti ehkä kaikkein kiireellisimpänä, koski instituutioita. Monet tekoälyn kehitystä ohjaavista eettisistä periaatteista ovat jo tiedossa, hän sanoi. Nyt tarvitaan instituutioita, jotka pystyvät panemaan ne täytäntöön, erityisesti tehokkaita kansainvälisiä instituutioita, jotka voivat turvata koko maailman yhteisen hyvän. Se edellyttää yhteisiä normeja, riippumatonta valvontaa ja selkeitä vastuumekanismeja, jotta tekoälyn kehittämistä ja käyttöä koskevia päätöksiä voidaan tarkastella ja tarvittaessa kyseenalaistaa ja jotta aiheutuneisiin vahinkoihin voidaan tarjota asianmukaisia oikeussuojakeinoja. Paavi päätti puheensa kiittämällä osallistujia heidän panoksestaan ja kehottamalla heitä jatkamaan sinnikkäästi vuoropuhelua ja yhteistä vastuunkantoa yhteisen hyvän puolesta. Lopuksi hän antoi siunauksensa.

Puheen taustalla oleva kiertokirje

Puheessa esitetyt viisi huomiota perustuvat kukin Magnifica Humanitas -kiertokirjeen numeroituihin kohtiin. Leo XIV julkaisi kiertokirjeen 15. toukokuuta 2026, ja sen koko nimi on Ihmispersoonan suojeleminen tekoälyn aikakaudella. Asiakirjassa paavi muistuttaa, että Leo XIII julkaisi kiertokirjeensä Rerum Novarum vuonna 1891 ja että kirkko viettää asiakirjan 135-vuotisjuhlaa vuonna 2026.

Kiertokirjeessä todetaan, että siinä missä valtio aiemmin pitkälti ohjasi innovointia ja suuntasi sitä, teknologisen kehityksen tärkeimpiä ajureita ovat nykyään yksityiset, usein ylikansalliset toimijat, joilla on enemmän resursseja ja vaikutusmahdollisuuksia kuin monilla hallituksilla. Asiakirjan mukaan tämä muutos on antanut teknologiselle vallalle ennennäkemättömän ja pääosin yksityisen luonteen, minkä vuoksi sitä on vaikeampi havaita, hallita ja suunnata yhteisen hyvän edistämiseen. Kiertokirjeen luvuissa käsitellään erikseen vastuullisuutta, läpinäkyvyyttä ja tekoälyn hallintaa sekä aseita ja tekoälyä.