Papa Leon al XIV-lea cere „dezarmarea” IA și solicită interzicerea armelor autonome letale

Papa Leon al XIV-lea a cerut „dezarmarea” inteligenței artificiale și a încurajat statele care se vor reuni la Geneva în noiembrie să ia măsuri concrete în vederea interzicerii armelor autonome letale, într-un discurs rostit în Sala Papilor la 30 octombrie 2026.

La audiență au participat persoane reunite pentru evenimentul „Viitorul IA: un dialog între Vatican și lumea științifică despre evoluția și aplicațiile tehnologiilor inteligente”, organizat în comun de Pontifical Academy for Life și Future of Life Institute.

Adresându-se participanților veniți din numeroase țări, Papa a spus că este convins că aceștia împărtășesc o stare de neliniște cu privire la dezvoltarea inteligenței artificiale: direcția care ar trebui urmată este cunoscută, a spus el, însă nu se fac suficiente eforturi pentru a înainta pe acest drum. Le-a mulțumit participanților pentru preocupările lor, precum și pentru ideile și propunerile lor privind viitorul, descriindu-le drept primele rezultate ale unei abordări transdisciplinare, tot mai necesare, în opinia sa, pentru a face față complexității marilor provocări ale vremurilor noastre.

Papa a amintit discursul rostit de Papa Francisc la sesiunea G7 despre inteligența artificială, la 14 iunie 2024, în care Francisc a descris IA drept un instrument care trezește atât entuziasm, cât și teamă și a afirmat că hotărârea de a lua viața unui om nu trebuie încredințată niciodată unei mașini. Aceste cuvinte sunt la fel de relevante ca oricând, a spus Leon al XIV-lea, adăugând că a încercat să analizeze mai în profunzime aceste întrebări în enciclica sa, înainte de a prezenta cinci considerații.

Cele cinci considerații

În primul rând, a spus Papa, viitorul inteligenței artificiale nu este prestabilit: întrucât oamenii dezvoltă această tehnologie, viitorul ei depinde de alegerile pe care le fac, iar oamenii au, prin urmare, responsabilitatea de a-i orienta și modifica aplicațiile și, atunci când este necesar, de a le respinge. Întrebarea decisivă, a spus el, este ce scop ar trebui să servească IA, nu doar ce poate face. Cei care consideră dezvoltarea ei doar o cursă care trebuie câștigată, a avertizat el, riscă să se concentreze asupra liniei de sosire și să-i uite pe cei rămași în urmă; un sistem fiabil, care slujește persoana umană, are o valoare mai mare decât unul excepțional de puternic, ale cărui consecințe nu pot fi anticipate sau controlate în mod adecvat.

În al doilea rând, a spus el, „mașinile sunt instrumente, nu persoane”. Sistemele de IA nu trăiesc experiențe și nu au un corp; nu simt bucurie sau durere, nu se maturizează prin relații și nu cunosc din proprie experiență semnificația iubirii, a muncii, a prieteniei sau a responsabilității. Unii propun să li se acorde acestor sisteme drepturi sau chiar personalitate juridică, o abordare despre care a avertizat că riscă să estompeze responsabilitatea umană și să-i oblige pe cei care suferă prejudicii să ceară reparații de la o entitate fără chip uman.

Supravegherea umană, binele comun și instituțiile

În al treilea rând, a spus Papa, anumite decizii nu trebuie niciodată delegate. O persoană inclusă pe o listă de ținte sau introdusă într-o bază de date pentru controlul frontierelor riscă să fie redusă la puțin mai mult decât un punct de date, a spus el, iar deciziile care afectează viața și libertatea oamenilor, precum și folosirea forței, trebuie să rămână întotdeauna sub supravegherea umană eficace, informată și responsabilă. Din acest motiv, a spus el, inteligența artificială trebuie dezarmată și i-a încurajat pe reprezentanții statelor care se vor reuni la Geneva în noiembrie să ia măsuri concrete în vederea interzicerii armelor autonome letale.

În al patrulea rând, a spus el, tehnologiile inteligente trebuie orientate către binele comun și nu trebuie să devină niciodată scopuri în sine sau să servească doar interesele unui grup restrâns de privilegiați. Invocând învățătura din enciclica sa potrivit căreia dreptatea presupune accesul la beneficiile inovării — inclusiv la îngrijire, cunoaștere, instrumente și oportunități —, el a spus că dezvoltarea acestor tehnologii ar trebui să încurajeze solidaritatea și participarea la diferite niveluri ale comunității globale, asigurând distribuirea echitabilă a beneficiilor progresului, mai ales către cei aflați în cea mai mare nevoie.

A cincea considerație a sa, pe care a numit-o poate cea mai urgentă, a vizat instituțiile. Multe dintre principiile etice care ar trebui să ghideze dezvoltarea inteligenței artificiale sunt deja cunoscute, a spus el; ceea ce este necesar acum sunt instituții capabile să le pună în practică, în special instituții internaționale eficace, care să protejeze binele comun la nivel mondial. Este nevoie de standarde comune, de supraveghere independentă și de mecanisme clare de responsabilizare, a spus el, astfel încât deciziile privind dezvoltarea și utilizarea IA să poată fi analizate, contestate atunci când este necesar și însoțite de măsuri de reparare adecvate pentru prejudiciile cauzate. În încheiere, Papa le-a mulțumit participanților pentru contribuțiile lor, îndemnându-i să persevereze într-un spirit de dialog și de responsabilitate comună pentru binele comun, și le-a dat binecuvântarea sa.

Enciclica aflată la baza discursului

Discursul își fundamentează fiecare dintre cele cinci considerații pe pasaje numerotate din Magnifica Humanitas, enciclica publicată de Leon al XIV-lea la 15 mai 2026, al cărei titlu complet este Despre ocrotirea persoanei umane în epoca inteligenței artificiale. În acest document, Papa amintește că Leon al XIII-lea și-a publicat enciclica Rerum Novarum în 1891 și că Biserica sărbătorește în 2026 cea de-a 135-a aniversare a documentului.

Enciclica observă că, dacă odinioară statul îndruma și dirija în mare măsură inovarea, astăzi principalii factori ai dezvoltării tehnologice sunt actori privați, adesea transnaționali, înzestrați cu resurse și cu o capacitate de intervenție care le depășesc pe cele ale multor guverne. Potrivit documentului, această schimbare conferă puterii tehnologice un caracter fără precedent și predominant privat, ceea ce o face mai greu de identificat, de guvernat și de orientat către binele comun. Capitolele sale includ secțiuni dedicate responsabilității, transparenței și guvernanței IA, precum și armelor și inteligenței artificiale.