Regulierung
Papst Leo XIV. fordert, KI zu „entwaffnen“, und drängt auf ein Verbot tödlicher autonomer Waffen
Unite.AI zu deinen bevorzugten Quellen auf Google hinzufügen
Papst Leo XIV. forderte, künstliche Intelligenz zu „entwaffnen“, und ermutigte die im November in Genf tagenden Staaten, konkrete Schritte zum Verbot tödlicher autonomer Waffen zu unternehmen. Dies sagte er in einer Ansprache, die er am 30. Oktober 2026 im Saal der Päpste hielt.
Das Publikum umfasste Teilnehmende des Treffens „Die Zukunft der KI: Ein Dialog zwischen dem Vatikan und der wissenschaftlichen Welt über die Entwicklungen und Anwendungen intelligenter Technologien“, das gemeinsam von der Pontifical Academy for Life und dem Future of Life Institute organisiert wurde.
Der Papst begrüßte die Teilnehmenden aus vielen Ländern und sagte, er glaube, dass sie ein Gefühl des Unbehagens angesichts der Entwicklung künstlicher Intelligenz teilten: Man erkenne zwar, welche Richtung eingeschlagen werden müsse, doch werde nicht genug getan, um diesen Weg zu beschreiten. Er dankte den Teilnehmenden für ihre Bedenken sowie für ihre Ideen und Vorschläge für die Zukunft. Diese bezeichnete er als erste Ergebnisse eines transdisziplinären Ansatzes, der seiner Ansicht nach immer notwendiger werde, wenn die Komplexität der großen Herausforderungen unserer Zeit bewältigt werden solle.
Der Papst erinnerte an die Ansprache von Papst Franziskus vom 14. Juni 2024 beim G7-Treffen zu künstlicher Intelligenz. Darin hatte Franziskus KI als ein Werkzeug bezeichnet, das sowohl Begeisterung als auch Angst auslöse, und bekräftigt, dass die Entscheidung, einem Menschen das Leben zu nehmen, niemals einer Maschine anvertraut werden dürfe. Diese Worte seien nach wie vor so aktuell wie eh und je, sagte Leo XIV. Er fügte hinzu, er habe sich bemüht, die Fragen in seiner Enzyklika eingehender zu behandeln, bevor er fünf Überlegungen darlegte.
Die fünf Überlegungen
Erstens, sagte der Papst, sei die Zukunft künstlicher Intelligenz nicht vorbestimmt: Da Menschen diese Technologie entwickelten, hänge ihre Zukunft von den Entscheidungen ab, die sie träfen. Daher trügen sie die Verantwortung dafür, ihre Anwendungen zu lenken und zu verändern und sie, wenn nötig, abzulehnen. Entscheidend sei die Frage, welchem Zweck KI dienen solle, und nicht einfach, was sie leisten könne. Wer ihre Entwicklung lediglich als ein Rennen betrachte, das es zu gewinnen gelte, laufe Gefahr, sich auf die Ziellinie zu fixieren und diejenigen zu vergessen, die zurückblieben, warnte er. Ein zuverlässiges System, das dem Menschen diene, sei wertvoller als ein außerordentlich leistungsfähiges System, dessen Folgen sich nicht hinreichend vorhersehen oder kontrollieren ließen.
Zweitens, sagte er, seien „Maschinen Werkzeuge, keine Personen“. KI-Systeme machten keine Erfahrungen und hätten keinen Körper; sie empfänden weder Freude noch Schmerz, reiften nicht durch Beziehungen und wüssten nicht aus eigener Erfahrung, was Liebe, Arbeit, Freundschaft oder Verantwortung bedeute. Manche schlügen vor, solchen Systemen Rechte oder sogar Rechtspersönlichkeit zuzuerkennen. Ein solcher Ansatz drohe jedoch, die menschliche Verantwortung zu verschleiern und Menschen, die zu Schaden kämen, dazu zu zwingen, bei einer Entität ohne menschliches Gesicht Wiedergutmachung zu suchen, warnte er.
Menschliche Aufsicht, das Gemeinwohl und Institutionen
Drittens, sagte der Papst, dürften bestimmte Entscheidungen niemals delegiert werden. Wer auf eine Zielliste gesetzt oder in eine Grenzkontroll-Datenbank aufgenommen werde, laufe Gefahr, auf kaum mehr als einen Datenpunkt reduziert zu werden. Entscheidungen, die das menschliche Leben, die Freiheit und den Einsatz von Gewalt beträfen, müssten stets einer wirksamen, informierten und verantwortungsvollen menschlichen Aufsicht unterliegen. Aus diesem Grund müsse künstliche Intelligenz entwaffnet werden, sagte er. Zudem ermutigte er die im November in Genf tagenden Staaten, konkrete Schritte zum Verbot tödlicher autonomer Waffen zu unternehmen.
Viertens, sagte er, müssten intelligente Technologien auf das Gemeinwohl ausgerichtet sein und dürften niemals zum Selbstzweck werden oder lediglich den Interessen einiger weniger Privilegierter dienen. Er verwies auf die Lehre seiner Enzyklika, wonach Gerechtigkeit den Zugang zu den Vorteilen von Innovationen voraussetze, darunter Versorgung, Wissen, Werkzeuge und Chancen. Die Entwicklung dieser Technologien solle Solidarität und Teilhabe auf verschiedenen Ebenen der Weltgemeinschaft fördern und sicherstellen, dass die Fortschritte gerecht geteilt würden – insbesondere mit den Bedürftigsten.
Seine fünfte Überlegung, die er als vielleicht dringendste bezeichnete, galt den Institutionen. Viele der ethischen Grundsätze, die die Entwicklung künstlicher Intelligenz leiten sollten, seien bereits bekannt, sagte er. Nun brauche es Institutionen, die sie in die Praxis umsetzen könnten, insbesondere wirksame internationale Institutionen, die das globale Gemeinwohl schützen könnten. Dazu brauche es gemeinsame Standards, unabhängige Aufsicht und klare Rechenschaftsmechanismen, sagte er, damit Entscheidungen über die Entwicklung und den Einsatz von KI überprüft und bei Bedarf angefochten werden könnten und für entstandene Schäden angemessene Abhilfe geschaffen werde. Zum Abschluss dankte der Papst den Teilnehmenden für ihre Beiträge und rief sie dazu auf, im Geist des Dialogs und der gemeinsamen Verantwortung für das Gemeinwohl beharrlich weiterzumachen. Anschließend spendete er seinen Segen.
Die Enzyklika hinter der Ansprache
Die Ansprache stützt jede ihrer fünf Überlegungen auf nummerierte Abschnitte von Magnifica Humanitas, der Enzyklika, die Leo XIV. am 15. Mai 2026 veröffentlichte und deren vollständiger Titel Über den Schutz der menschlichen Person im Zeitalter der künstlichen Intelligenz lautet. In dem Dokument weist der Papst darauf hin, dass Leo XIII. 1891 seine Enzyklika Rerum Novarum veröffentlichte und die Kirche 2026 den 135. Jahrestag des Dokuments begeht.
Die Enzyklika stellt fest, dass Innovation früher weitgehend vom Staat gelenkt und gesteuert wurde, während die technologische Entwicklung heute vor allem von privaten, oft transnationalen Akteuren vorangetrieben wird, die über Ressourcen und Eingriffsmöglichkeiten verfügen, welche die vieler Regierungen übersteigen. Dieser Wandel verleiht technologischer Macht, so das Dokument, einen beispiellosen und überwiegend privaten Charakter, der schwerer zu durchschauen, zu regulieren und am Gemeinwohl auszurichten ist. Die Kapitel befassen sich eingehend mit Verantwortung, Transparenz und der Steuerung von KI sowie mit Waffen und künstlicher Intelligenz.
