Forscher sagen, dass Menschen nicht in der Lage wären, ein superintelligentes KI-System zu kontrollieren

Jeder, der sich mit künstlicher Intelligenz (KI) auskennt, hat wahrscheinlich bereits von der Möglichkeit gehört, dass sie sich eines Tages von der menschlichen Kontrolle befreit. Dies ist nicht nur ein Thema aus Sci-Fi-Filmen, sondern eine sehr starke Möglichkeit, die viele Experten in der Branche besorgt. Viele dieser Experten, einschließlich Wissenschaftler, argumentieren, dass wir beginnen sollten, uns auf diese Möglichkeit vorzubereiten und sie in jeder möglichen Weise zu vermeiden.

Jetzt hat ein internationales Team von Forschern diese Idee aufgegriffen und sie mit theoretischen Berechnungen untermauert. Das Team, zu dem Wissenschaftler vom Center for Humans and Machines am Max-Planck-Institut für menschliche Entwicklung gehörten, nutzten diese Berechnungen, um zu demonstrieren, wie es nicht möglich wäre, ein superintelligentes KI-System zu kontrollieren.

Die Forschung wurde kürzlich in der Journal of Artificial Intelligence Research veröffentlicht.

Superintelligentes KI-System

Die Sorge um ein superintelligentes KI-System hat damit zu tun, dass ein solches System weit überlegen wäre als Menschen. Es könnte nicht nur unabhängig lernen, sondern auch auf alle vorhandenen Daten zugreifen und sie extrem schnell verarbeiten.

Ein solches Ereignis könnte dazu führen, dass das superintelligente KI alle vorhandenen Maschinen im Internet übernimmt, und obwohl es Dinge wie die Heilung von Krankheiten und die Lösung anderer großen Probleme der Menschheit tun könnte, ist das Risiko, dass die Dinge außer Kontrolle geraten, auch sehr hoch.

Manuel Cebrian ist Co-Autor der Studie und Leiter der Digital Mobilization Group am Center for Humans and Machines, Max-Planck-Institut für menschliche Entwicklung.

“Ein superintelligentes Maschinen, das die Welt kontrolliert, klingt wie Science-Fiction. Aber es gibt bereits Maschinen, die bestimmte wichtige Aufgaben unabhängig ohne das vollständige Verständnis der Programmierer ausführen. Die Frage stellt sich daher, ob dies irgendwann unkontrollierbar und gefährlich für die Menschheit werden könnte”, sagt Cebrian.

Kontrolle des Systems

Es gibt zwei große Schulen von Gedanken, wenn es um die Kontrolle eines solchen Systems geht. Erstens könnten Menschen die Fähigkeiten eines superintelligenten KI-Systems einschränken, indem sie seinen Zugriff auf bestimmte Datenquellen wie das gesamte Internet beschränken. Das System könnte auch ohne Kontakt mit der Außenwelt funktionieren. Allerdings würde dies das Potenzial des KI-Systems stark einschränken.

Das System würde kontrolliert, indem es nur Ergebnisse verfolgen dürfte, die der Menschheit zugutekommen, und dies könnte durch die Programmierung ethischer Prinzipien erreicht werden.

Die Studie beinhaltete die Entwicklung eines theoretischen Kontrollalgorithmus, der verhindert, dass das superintelligente KI der Menschheit unter任何 Umständen schadet. Dies kann durch die Erstellung einer Simulation des Verhaltens des KI-Systems und die Erkennung von Verhaltensweisen, die schädlich sein könnten, erreicht werden. Trotz dieser vielversprechenden Theorie zeigt die aktuelle Analyse, dass ein solcher Algorithmus nicht entwickelt werden kann.

Iyad Rahwan ist Direktor des Center for Humans and Machines.

“Wenn man das Problem auf grundlegende Regeln aus der theoretischen Informatik herunterbricht, stellt sich heraus, dass ein Algorithmus, der einem KI-System verbietet, die Welt zu zerstören, unbeabsichtigt seine eigenen Operationen stoppen könnte. Wenn dies passiert, wüsste man nicht, ob der Kontrollalgorithmus noch die Bedrohung analysiert oder ob er gestoppt hat, um das schädliche KI-System zu enthalten. In der Praxis macht dies den Kontrollalgorithmus unbrauchbar”, sagt Rahwan.

Ein weiteres Problem ist, dass Experten möglicherweise nicht einmal erkennen, wenn eine superintelligente Maschine diesen Zustand erreicht, hauptsächlich weil sie intelligenter als Menschen wäre.