Was bedeutet Human-in-the-Loop eigentlich?

Im frühen 20. Jahrhundert prägte der britische Philosoph Gilbert Ryle den Begriff “Geist in der Maschine”. In seinem Werk The Concept of Mind verwendete Ryle diese Metapher, um sich gegen den Dualismus von Geist und Körper zu wehren, der besagt, dass Geist und Körper als separate Substanzen existieren. Für Ryle war diese Trennung ein Fehler, da Kognition und physische Handlung untrennbar sind und Teil eines einzigen Systems sind, anstatt zwei interagierende Teile.

Mit dem Aufkommen von KI entsteht eine ähnliche Metapher, wenn man über die Benutzer von KI-Tools spricht, um die Produktivität zu steigern: der oft verwendete Begriff “Human-in-the-Loop”. Wenn Menschen und intelligente Systeme nun eng verbunden sind, bauen wir eine nahtlose Verbindung oder schaffen wir eine bequeme Illusion der Kontrolle?

Startups verlassen sich stark auf dieses Konzept, um über ihre Tools zu sprechen. Während es sowohl Innovation als auch Sicherheit verspricht, ist die Realität oft komplizierter. Die Verantwortung kann leicht diffus werden und die Rechenschaftspflicht ist schwerer zu verfolgen.

Da KI-Systeme in sensible Bereiche eindringen – von Bildung bis Krieg – sind die Einsätze nicht mehr abstrakt. Was bedeutet Human-in-the-Loop eigentlich und ist dies nur ein Euphemismus für den Moment, wenn sie vollständig verschwinden?

1. Human-in-the-Loop als Schutzschild für Verantwortung

Wenn der Begriff Human-in-the-Loop sorglos verwendet wird, kann er eine einfache Möglichkeit sein, die Verantwortung zu verschieben, ohne sich wirklich damit auseinanderzusetzen. Viele bemerken, dass eine menschliche Unterschrift am Ende eines Prozesses nicht unbedingt ethische Integrität garantiert, insbesondere wenn das zugrunde liegende System schlecht konzipiert oder unzureichend verstanden ist.

Maysa Hawwash, Gründerin und CEO von Scale X, hat geschrieben über den Rückzug von der Verantwortung und ist offen darüber, wie das Konzept oft eingesetzt wird. “Es ist eigentlich nicht unähnlich anderen Formen der Verantwortungsverschiebung”, sagte Hawwash gegenüber Startup Beat und verwendete das Beispiel, wie HR-Manager oft eine Genehmigungsrichtlinie verwenden, um das Unternehmen von der Haftung zu befreien. “Wenn Sie diese Richtlinie haben und die Leute sie lesen und genehmigen, dann ist das Unternehmen technisch gesehen nicht haftbar, richtig?”

Was herauskommt, ist ein Muster, das über korporative Systeme vertraut ist, in denen die Verantwortung verlagert wird, anstatt eliminiert zu werden. Hawwash sieht dies als den faulen Weg, der kritisches Denken oder das Verständnis der Bereiche, in denen es Menschen oder Gemeinschaften beeinflussen kann, vermeidet. “Sie verschieben die Last, und dann ist es egal, ob die Leute die Richtlinie verstehen, es ist egal, ob die Richtlinie Sinn macht.”

In dieser Darstellung riskiert “Human-in-the-Loop”, weniger über sinnvolle Intervention und mehr über prozedurale Abdeckung zu werden. Die Gefahr liegt nicht nur im semantischen Bereich. Wenn die Aufsicht auf eine Genehmigung reduziert wird, wird die menschliche Rolle symbolisch anstatt substantiell.

Hawwash verwies auf ein kürzliches militärisches Verbrechen – die Schule in Minab, Iran – wo Menschen einen Angriff genehmigten, aber die Anwesenheit eines menschlichen Entscheidungsträgers nicht unbedingt ethische Klarheit oder angemessene Abwägung implizierte. “Wenn Sie im Krieg sind oder eine komplexe Operation durchführen, haben Sie nicht die Luxus der Zeit, um Human-in-the-Loop als Schutzschild zu verwenden.”

2. Designen für Verantwortung, nicht nur für Aufsicht

Die Alternative besteht nicht darin, Human-in-the-Loop-Systeme aufzugeben, sondern sie als Design-Verpflichtungen ernst zu nehmen. Dies bedeutet, über symbolische Aufsicht hinaus zu gehen und absichtliche Verantwortungsstrukturen zu schaffen.

“Es gibt diesen großen Wettlauf, um mehr KI auf den Markt zu bringen. Es gibt nicht viel Nachdenken über die Auswirkungen auf Gemeinschaften, Menschen oder Endnutzer”, sagte Hawwash.

Geschwindigkeit ist zur dominanten Wettbewerbsvariable geworden. In diesem Wettlauf wird die Verantwortung oft aufgeschoben, anstatt integriert zu werden. Das Ergebnis ist ein reaktives Modell der Ethik, bei dem die Lösung von Problemen nach der Bereitstellung stattfindet, anstatt sie während der Entwicklung vorherzusagen.

Zugänglichkeit kann die Akzeptanz beschleunigen, aber sie führt auch zu verstärkten Konsequenzen. Systeme sind nicht mehr auf technische Nutzer beschränkt, da sie Entscheidungen für Menschen mit unterschiedlichem Verständnis und Kontext beeinflussen können. In einer solchen Umgebung kann die Verantwortung nicht an den Endnutzer ausgelagert werden.

3. Human-in-the-Loop als Genauigkeit und Rechenschaftspflicht

Abhay Gupta, Mitbegründer von Frizzle, bietet eine operativere Perspektive – eine, die auf dem Bau eines Systems basiert, in dem menschliche Aufsicht praktisch und notwendig ist.

Sein Unternehmen entstand aus einem spezifischen Problem: überarbeitete Lehrer. “In der Stadt hört man von Bankern und Beratern, die 70 Stunden pro Woche arbeiten, aber man hört nicht von Lehrern, die so viel arbeiten. Also interviewten wir aus Neugier heraus hunderte von Lehrern und es stellte sich heraus, dass die Korrektur ihre größte Zeitschwelle war.”

Die Automatisierung der Korrektur mag einfach erscheinen, aber die Komplexität von handschriftlichen mathematischen Aufgaben introduceiert reale Einschränkungen für KI. “Es gibt das Genauigkeitsproblem. KI ist nicht perfekt, also bauten wir ein Human-in-the-Loop-System. Wenn KI nicht sicher ist – wie bei unleserlichem Handschrift – markiert es dies für den Lehrer zur Überprüfung und Genehmigung oder Ablehnung.”

Hier ist die menschliche Rolle nicht nur ornamentell. Das System identifiziert explizit seine eigene Unsicherheit und leitet diese Fälle an einen Menschen weiter. “Für uns geht es um Genauigkeit. Es wird immer Randfälle geben – vielleicht 1-3% – in denen KI Schwierigkeiten hat, also muss ein Mensch eingreifen.”

Dieser Ansatz definiert Human-in-the-Loop als Mechanismus für Qualitätskontrolle. Aber Gupta geht weiter: “Im Kern ist KI nicht 100% genau – es kann halluzinieren oder falsche Ausgaben produzieren. Human-in-the-Loop dient als finale Qualitätsprüfung, bevor die Ergebnisse den Endnutzer erreichen. Es geht auch um Verantwortung. Jemand muss für die Ausgabe verantwortlich sein, und im Moment muss dies noch ein Mensch sein.”

Wichtig ist, dass die menschliche Rolle auch etwas weniger Quantifizierbares bewahrt: den relationalen Aspekt des Unterrichtens. “Es geht auch darum, die menschliche Seite des Unterrichtens zu bewahren. Lehrer haben unterschiedliche Stile, also lassen wir sie die Art und Weise anpassen, wie Feedback geliefert wird.”

Neubestimmung von Human-in-the-Loop

Der Begriff “Human-in-the-Loop” trägt eine beruhigende Einfachheit in sich. Er suggeriert, dass unabhängig davon, wie fortschrittlich unsere Systeme werden, ein Mensch immer noch die Kontrolle hat und wir nicht einfach “Geister in der Maschine” sind. Aber da Startups zunehmend KI in hochriskanten Umgebungen einsetzen, verlangt diese Beruhigung nach einer Prüfung.

Das tiefer liegende Problem ist das Design. Wenn die Risiken eines Systems schlecht verstanden oder bewusst heruntergespielt werden, ändert die Einbindung eines Menschen am Ende wenig an grundlegenden Fehlern. Es bedeutet auch, die Rolle des Menschen nicht als Ausfall, sondern als integralen Teil des Systembetriebs zu definieren. Ein Mensch in der Schleife sollte nicht nur das Ergebnis genehmigen. Startups sollten danach streben, ihre Mitarbeiter zu befähigen, sie zu formen, sie in Frage zu stellen und sie bei Bedarf mit Autorität außer Kraft zu setzen.