Ο πάπας Λέων ΙΔ΄ καλεί να «αφοπλιστεί» η ΤΝ και ζητά την απαγόρευση των φονικών αυτόνομων όπλων

Ο πάπας Λέων ΙΔ΄ ζήτησε να «αφοπλιστεί» η τεχνητή νοημοσύνη και ενθάρρυνε τα κράτη που θα συναντηθούν στη Γενεύη τον Νοέμβριο να λάβουν συγκεκριμένα μέτρα για την απαγόρευση των φονικών αυτόνομων όπλων, σε ομιλία που εκφώνησε στην Αίθουσα των Παπών στις 30 Οκτωβρίου 2026.

Στη συνάντηση συμμετείχαν εκπρόσωποι της εκδήλωσης «Το μέλλον της ΤΝ: Διάλογος ανάμεσα στο Βατικανό και τον επιστημονικό κόσμο για τις εξελίξεις και τις εφαρμογές των ευφυών τεχνολογιών», η οποία διοργανώθηκε από κοινού από την Pontifical Academy for Life και το Future of Life Institute.

Καλωσορίζοντας τους συμμετέχοντες από πολλές χώρες, ο πάπας είπε ότι πιστεύει πως τους διακατέχει κοινή ανησυχία για την ανάπτυξη της τεχνητής νοημοσύνης: αναγνωρίζουμε, είπε, προς ποια κατεύθυνση πρέπει να κινηθούμε, αλλά δεν κάνουμε αρκετά για να την ακολουθήσουμε. Ευχαρίστησε τους συμμετέχοντες για τις ανησυχίες τους, καθώς και για τις ιδέες και τις προτάσεις τους για το μέλλον, χαρακτηρίζοντάς τες πρώιμα αποτελέσματα μιας διεπιστημονικής προσέγγισης, την οποία θεωρεί ολοένα και πιο αναγκαία για την αντιμετώπιση της πολυπλοκότητας των μεγάλων προκλήσεων της εποχής.

Ο πάπας αναφέρθηκε στην ομιλία του πάπα Φραγκίσκου στις 14 Ιουνίου 2024, κατά τη συνεδρίαση της G7 για την τεχνητή νοημοσύνη. Ο Φραγκίσκος είχε περιγράψει την ΤΝ ως εργαλείο που προκαλεί ταυτόχρονα ενθουσιασμό και φόβο και είχε τονίσει ότι η απόφαση για την αφαίρεση μιας ανθρώπινης ζωής δεν πρέπει ποτέ να ανατίθεται σε μηχανή. Τα λόγια αυτά παραμένουν εξίσου επίκαιρα, είπε ο Λέων ΙΔ΄, προσθέτοντας ότι επιχείρησε να εξετάσει τα ζητήματα σε μεγαλύτερο βάθος στην εγκύκλιό του, προτού παρουσιάσει πέντε επισημάνσεις.

Οι πέντε επισημάνσεις

Πρώτον, είπε ο πάπας, το μέλλον της τεχνητής νοημοσύνης δεν είναι προκαθορισμένο: επειδή την τεχνολογία την αναπτύσσουν οι άνθρωποι, το μέλλον της εξαρτάται από τις επιλογές τους. Επομένως, οι άνθρωποι έχουν την ευθύνη να καθοδηγούν και να αλλάζουν τις εφαρμογές της και, όταν χρειάζεται, να τις απορρίπτουν. Το καθοριστικό ερώτημα, είπε, είναι ποιον σκοπό πρέπει να υπηρετεί η ΤΝ και όχι απλώς τι μπορεί να κάνει. Όσοι αντιμετωπίζουν την ανάπτυξή της μόνο ως αγώνα που πρέπει να κερδηθεί, προειδοποίησε, κινδυνεύουν να προσηλωθούν στη γραμμή του τερματισμού και να ξεχάσουν όσους μένουν πίσω. Ένα αξιόπιστο σύστημα που υπηρετεί τον άνθρωπο έχει μεγαλύτερη αξία από ένα εξαιρετικά ισχυρό σύστημα, οι συνέπειες του οποίου δεν μπορούν να προβλεφθούν ή να ελεγχθούν επαρκώς.

Δεύτερον, είπε, «οι μηχανές είναι εργαλεία, όχι πρόσωπα». Τα συστήματα ΤΝ δεν βιώνουν εμπειρίες ούτε έχουν σώμα· δεν αισθάνονται χαρά ή πόνο, δεν ωριμάζουν μέσα από σχέσεις και δεν γνωρίζουν εκ των έσω τι σημαίνουν η αγάπη, η εργασία, η φιλία ή η ευθύνη. Ορισμένοι προτείνουν να παραχωρηθούν στα συστήματα αυτά δικαιώματα ή ακόμη και νομική προσωπικότητα· ο πάπας προειδοποίησε ότι μια τέτοια προσέγγιση ενέχει τον κίνδυνο να συσκοτίσει την ανθρώπινη ευθύνη και να αναγκάσει όσους υφίστανται βλάβη να ζητήσουν αποκατάσταση από μια οντότητα χωρίς ανθρώπινο πρόσωπο.

Ανθρώπινη εποπτεία, κοινό καλό και θεσμοί

Τρίτον, είπε ο πάπας, ορισμένες αποφάσεις δεν πρέπει ποτέ να ανατίθενται αλλού. Ένα άτομο που περιλαμβάνεται σε κατάλογο στόχων ή καταχωρίζεται σε βάση δεδομένων συνοριακού ελέγχου κινδυνεύει, όπως είπε, να υποβιβαστεί σε κάτι λίγο περισσότερο από ένα σημείο δεδομένων. Οι αποφάσεις που επηρεάζουν την ανθρώπινη ζωή, την ελευθερία και τη χρήση βίας πρέπει πάντοτε να υπόκεινται σε αποτελεσματική, ενημερωμένη και υπεύθυνη ανθρώπινη εποπτεία. Γι’ αυτό, είπε, η τεχνητή νοημοσύνη πρέπει να αφοπλιστεί, και ενθάρρυνε τα κράτη που θα συναντηθούν στη Γενεύη τον Νοέμβριο να λάβουν συγκεκριμένα μέτρα για την απαγόρευση των φονικών αυτόνομων όπλων.

Τέταρτον, είπε, οι ευφυείς τεχνολογίες πρέπει να υπηρετούν το κοινό καλό και δεν πρέπει ποτέ να γίνουν αυτοσκοπός ή να εξυπηρετούν αποκλειστικά τα συμφέροντα μιας προνομιούχας μειοψηφίας. Παραπέμποντας στη διδασκαλία της εγκυκλίου του, σύμφωνα με την οποία η δικαιοσύνη απαιτεί πρόσβαση στα οφέλη της καινοτομίας, όπως η φροντίδα, η γνώση, τα εργαλεία και οι ευκαιρίες, είπε ότι η ανάπτυξη αυτών των τεχνολογιών θα πρέπει να ενθαρρύνει την αλληλεγγύη και τη συμμετοχή σε διάφορα επίπεδα της παγκόσμιας κοινότητας, διασφαλίζοντας ότι τα οφέλη της προόδου κατανέμονται ισότιμα, ιδίως σε όσους έχουν τη μεγαλύτερη ανάγκη.

Η πέμπτη επισήμανσή του, την οποία χαρακτήρισε ίσως την πιο επείγουσα, αφορούσε τους θεσμούς. Πολλές από τις ηθικές αρχές που θα πρέπει να καθοδηγούν την ανάπτυξη της τεχνητής νοημοσύνης είναι ήδη γνωστές, είπε· αυτό που χρειάζεται τώρα είναι θεσμοί ικανοί να τις εφαρμόσουν στην πράξη, ιδίως αποτελεσματικοί διεθνείς θεσμοί που μπορούν να διαφυλάξουν το παγκόσμιο κοινό καλό. Αυτό απαιτεί κοινά πρότυπα, ανεξάρτητη εποπτεία και σαφείς μηχανισμούς λογοδοσίας, είπε, ώστε οι αποφάσεις σχετικά με την ανάπτυξη και τη χρήση της ΤΝ να μπορούν να εξετάζονται, να αμφισβητούνται όταν χρειάζεται και να συνοδεύονται από κατάλληλα μέτρα αποκατάστασης για τη βλάβη που προκαλείται. Ο πάπας ολοκλήρωσε ευχαριστώντας τους συμμετέχοντες για τη συμβολή τους και προτρέποντάς τους να συνεχίσουν με πνεύμα διαλόγου και κοινής ευθύνης για το κοινό καλό, ενώ τους έδωσε την ευλογία του.

Η εγκύκλιος στην οποία βασίζεται η ομιλία

Η ομιλία θεμελιώνει καθεμία από τις πέντε επισημάνσεις της σε αριθμημένες παραγράφους της Magnifica Humanitas, της εγκυκλίου που εξέδωσε ο Λέων ΙΔ΄ στις 15 Μαΐου 2026 και έχει πλήρη τίτλο Για την προστασία του ανθρώπινου προσώπου στην εποχή της τεχνητής νοημοσύνης. Στο έγγραφο αυτό, ο πάπας σημειώνει ότι ο Λέων ΙΓ΄ δημοσίευσε την εγκύκλιό του Rerum Novarum το 1891 και ότι η Εκκλησία τιμά το 2026 την 135η επέτειο του εγγράφου.

Η εγκύκλιος επισημαίνει ότι, ενώ κάποτε το κράτος κατηύθυνε και καθοδηγούσε σε μεγάλο βαθμό την καινοτομία, σήμερα οι κύριοι παράγοντες της τεχνολογικής ανάπτυξης είναι ιδιωτικοί, συχνά διακρατικοί φορείς, οι οποίοι διαθέτουν πόρους και δυνατότητα παρέμβασης που υπερβαίνουν τις αντίστοιχες πολλών κυβερνήσεων. Σύμφωνα με το κείμενο, αυτή η μετατόπιση προσδίδει στην τεχνολογική ισχύ έναν πρωτοφανή και κατά κύριο λόγο ιδιωτικό χαρακτήρα, γεγονός που δυσχεραίνει τη διάκρισή της, τη διακυβέρνησή της και την κατεύθυνσή της προς το κοινό καλό. Τα κεφάλαιά της περιλαμβάνουν ειδικές αναλύσεις για την ευθύνη, τη διαφάνεια και τη διακυβέρνηση της ΤΝ, καθώς και για τα όπλα και την τεχνητή νοημοσύνη.