Humanoide Roboter kommen in die Fabriken. Wer trägt die Verantwortung, wenn sie versagen?

Ein Roboter kann einen Leistungstest erfolgreich bestehen und dennoch zu einem Sicherheitsrisiko werden, wenn er auf ein unerwartetes Hindernis oder einen echten Beschäftigten trifft oder sich sein Verhalten durch ein Software-Update verändert. Die Frage ist nicht mehr, ob humanoide Roboter eine Aufgabe ausführen können, sondern wie sie das tun. Können sie dies sicher tun – und wer trägt die Verantwortung, wenn etwas schiefgeht?

Agility Robotics und FORT Robotics gaben im Oktober eine Partnerschaft bekannt, um die Sicherheitsarchitektur des humanoiden Roboters Digit 5 von Agility zu verbessern. Ihr Ansatz sieht integrierte Sicherheitssysteme sowie externe Schnittstellen, Kommunikationsverbindungen und eine manuelle Übersteuerung vor. Diese Entwicklung markiert einen bedeutenden Wandel: Roboter müssen an Arbeitsplätzen mit Menschen sicher sein – und dazu gehört mehr als nur der Roboter selbst.

Technologie allein reicht jedoch nicht aus, um die Frage der Verantwortlichkeit zu klären. Wenn ein Roboter aufgrund eines fehlerhaften Bauteils, das von einem KI-System falsch identifiziert wurde, einen Fehler macht, könnten der Hersteller, der Softwareentwickler, der Systemintegrator und der Arbeitgeber, der das System einsetzt, haftbar gemacht werden.

Wenn KI-Entscheidungen zu physischen Risiken werden

Herkömmliche Industrieroboter befinden sich meist in abgeschlossenen Arbeitszellen, wo sie durch Barrieren und Sicherheitseinrichtungen von den Beschäftigten getrennt sind. Humanoide Roboter stellen eine andere Herausforderung dar: Sie sollen sich in Umgebungen bewegen, die für Menschen gestaltet wurden, unterschiedliche Aufgaben ausführen und sich an verschiedene Umgebungen anpassen.

Diese Flexibilität birgt neue Risiken. Eine Fehldetektion kann eine unnötige Bewegung auslösen. Ein Software-Update könnte das Verhalten eines Roboters verändern. Änderungen am Fabriklayout können Gefahren verursachen, die bei früheren Tests noch nicht bestanden.

Dana R. Wolfe, Vizepräsidentin und Leiterin des Industriesektors bei GFT Americas, sagte gegenüber Unite AI, dass mehrere Schutzebenen erforderlich seien, um unsichere Eingriffe zu verhindern. Dazu gehörten deterministische Software-Schutzmechanismen, an die jeweilige Fabrik angepasste Konfidenzschwellen, Sensorfusion und eine schrittweise Validierung vor der Inbetriebnahme.

Falsch-positive Ergebnisse ließen sich nicht vollständig vermeiden, sagte Wolfe. Hersteller müssten vielmehr sicherstellen, dass sich Fehler nicht in unsichere physische Bewegungen übersetzen.

Konfidenzschwellen und menschliche Entscheidungsbefugnis sollten ebenso Teil der Sicherheitsarchitektur des Systems sein wie Hardware-Verriegelungen, sagte Wolfe.

Sicherheitsstandards müssen Schritt halten

Die geltenden Normen für die Industrierobotik bieten eine wertvolle Grundlage, lösen aber nicht unbedingt alle Probleme, die mobile humanoide Roboter mit sich bringen.

Die Internationale Organisation für Normung (ISO) hat Sicherheitsanforderungen für Industrieroboter veröffentlicht. ISO 10218-2 behandelt die Integration von Robotern in vollständige Systeme.

Diese Normen decken jedoch nicht alle Einsatzbereiche und Gefahren ab, die mit mobilen Robotern bei der Zusammenarbeit mit Menschen verbunden sind.

Unabhängige Tests, szenariobasierte Validierungen und schrittweise Pilotprojekte am Arbeitsplatz seien besonders wichtig, während sich die Branchenpraxis weiterentwickle, sagte Wolfe.

Sicherheitsbewertungen müssen außerdem wiederholt werden, wenn Änderungen am KI-Modell, an der Software, den Bewegungsbeschränkungen, den Aufgaben oder der Fabrikumgebung dazu führen könnten, dass frühere Sicherheitsbewertungen nicht mehr gültig sind.

Nach einer größeren Änderung ist ein Roboter, der unter bestimmten Bedingungen sicher war, unter den neuen Bedingungen möglicherweise nicht mehr sicher.

Menschliche Aufsicht muss mehr bedeuten als bloße Zustimmung

Es ist unpraktikabel, jede Entscheidung eines KI-Systems zu überwachen. Wenn Menschen jedoch nicht an kritischen Entscheidungen beteiligt sind, entsteht eine weitere Herausforderung: Die Verantwortlichkeit lässt sich schwerer nachweisen.

Adrian Figueroa Ramos, Mitgründer und CEO von Flexio und Routina, sagte, die Aufsicht sollte sich auf Entscheidungen mit der größten Unsicherheit oder dem höchsten Risiko konzentrieren.

„In der heutigen KI-Welt ist die Zahl der Ergebnisse größer, als ein Mensch verarbeiten kann. Alles zu überprüfen, macht den Menschen zum Engpass. Bei Entscheidungen mit hohem Risiko oder geringer Konfidenz ist menschliches Urteilsvermögen jedoch nach wie vor notwendig“, sagte er gegenüber Unite AI.

Das gilt insbesondere für physische KI. Zur menschlichen Aufsicht sollten namentlich benannte Personen gehören, die befugt sind, ein System zu übersteuern und sicherzustellen, dass Entscheidungen dokumentiert und überprüft werden – statt lediglich auf eine Schaltfläche zur Zustimmung zu klicken.

Wer trägt die Verantwortung, wenn ein Roboter versagt?

Die Verantwortung sollte entsprechend der Kontrolle, die jede Partei über das System ausübt, aufgeteilt werden.

So sind Hersteller beispielsweise dafür verantwortlich, Sicherheitsmaßnahmen zu entwickeln und zu dokumentieren. Softwareentwickler sollten Änderungen testen, die sich auf die Wahrnehmung oder die Bewegung auswirken können.

Der Integrator muss das Gesamtsystem in der vorgesehenen Einsatzumgebung validieren. Arbeitgeber sind dafür verantwortlich, Beschäftigte zu schulen, Schutzmaßnahmen sicherzustellen und Verfahren für das Stoppen unsicherer Abläufe festzulegen.

Auch die Cybersicherheit ist wichtig. Betriebliche Technologie kann anfällig für Probleme mit Sensoren, Software und externen Systemen im Zusammenhang mit Robotern sein. Ein Sicherheitsversagen, das sich auf das physische Verhalten auswirkt, ist sowohl ein Problem der Arbeitssicherheit als auch ein IT-Problem.

Es wird erwartet, dass humanoide Roboter künftig flexibler und produktiver in Fabriken eingesetzt werden können. Ihre Einführung wird jedoch nicht allein von Leistungskennzahlen abhängen. Es braucht klare Zuständigkeiten, unabhängige Validierungen und Schutzmaßnahmen, die während der gesamten Einsatzdauer eines Roboters aufrechterhalten werden.

Die Frage ist: Kann ein Roboter Fehler machen? Das kann er, wenn diejenigen, die ihn einsetzen, ein System geschaffen haben, das sie für diese Fehler zur Verantwortung zieht.