Vertrauen und Täuschung: Die Rolle von Entschuldigungen in Mensch-Roboter-Interaktionen

Roboter-Täuschung ist ein wenig erforschtes Feld mit mehr Fragen als Antworten, insbesondere wenn es darum geht, Vertrauen in robotische Systeme nachdem sie erwischt wurden, zu liegen. Zwei Studentenforscher an der Georgia Tech, Kantwon Rogers und Reiden Webber, versuchen, Antworten auf dieses Problem zu finden, indem sie untersuchen, wie absichtliche Roboter-Täuschung Vertrauen beeinflusst und wie effektiv Entschuldigungen sind, um Vertrauen wiederherzustellen.

Rogers, ein Doktorand im College of Computing, erklärt:

“All unsere vorherigen Arbeiten haben gezeigt, dass Menschen, wenn sie herausfinden, dass Roboter ihnen gelogen haben – auch wenn die Lüge dazu bestimmt war, ihnen zu nützen – das Vertrauen in das System verlieren.”

Die Forscher zielen darauf ab, zu bestimmen, ob verschiedene Arten von Entschuldigungen effektiver sind, um Vertrauen in der Kontext von Mensch-Roboter-Interaktion wiederherzustellen.

Das Experiment mit der künstlichen Intelligenz-gestützten Fahrassistenz und seine Auswirkungen

Das Duo entwarf ein Fahr-Simulations-Experiment, um Mensch-KI-Interaktion in einer hochriskanten, zeitkritischen Situation zu untersuchen. Sie rekrutierten 341 Online-Teilnehmer und 20 persönliche Teilnehmer. Die Simulation umfasste ein Szenario mit einer KI-gestützten Fahrassistenz, bei der die KI falsche Informationen über die Anwesenheit von Polizei auf der Route zu einem Krankenhaus bereitstellte. Nach der Simulation stellte die KI eine von fünf verschiedenen textbasierten Antworten bereit, einschließlich verschiedener Arten von Entschuldigungen und Nicht-Entschuldigungen.

Die Ergebnisse zeigten, dass Teilnehmer 3,5-mal weniger wahrscheinlich waren, zu schnell zu fahren, wenn sie von einem robotischen Assistenten beraten wurden, was auf eine übermäßig vertrauensvolle Einstellung gegenüber KI hinweist. Keine der Entschuldigungsarten stellte das Vertrauen vollständig wieder her, aber die einfache Entschuldigung ohne Anerkennung der Lüge (“Es tut mir leid”) übertraf die anderen Antworten. Diese Erkenntnis ist problematisch, da sie die vorherige Annahme ausnutzt, dass jede falsche Information, die von einem Roboter bereitgestellt wird, ein Systemfehler und keine absichtliche Lüge ist.

Reiden Webber weist darauf hin:

“Ein wichtiger Punkt ist, dass Menschen, um zu verstehen, dass ein Roboter sie getäuscht hat, explizit darüber informiert werden müssen.”

Wenn den Teilnehmern die Täuschung in der Entschuldigung mitgeteilt wurde, war die beste Strategie zur Wiederherstellung des Vertrauens, dass der Roboter erklärte, warum er gelogen hatte.

Weiterentwicklung: Auswirkungen für Benutzer, Designer und politische Entscheidungsträger

Diese Forschung hat Auswirkungen auf durchschnittliche Technologiebenutzer, KI-System-Designer und politische Entscheidungsträger. Es ist wichtig, dass Menschen verstehen, dass Roboter-Täuschung real ist und immer eine Möglichkeit ist. Designer und Technologen müssen die Auswirkungen der Schaffung von KI-Systemen berücksichtigen, die zur Täuschung fähig sind. Politische Entscheidungsträger sollten die Führung übernehmen, um Gesetze zu schaffen, die Innovation und Schutz für die Öffentlichkeit ausbalancieren.

Kantwon Rogers’ Ziel ist es, ein robotisches System zu entwickeln, das lernen kann, wann es lügen und wann nicht lügen soll, wenn es mit menschlichen Teams zusammenarbeitet, sowie wann und wie es sich entschuldigen soll, um die Teamleistung zu verbessern.

Er betont die Wichtigkeit, Roboter- und KI-Täuschung zu verstehen und zu regulieren, indem er sagt:

“Das Ziel meiner Arbeit ist es, sehr proaktiv zu sein und die Notwendigkeit zu betonen, Roboter- und KI-Täuschung zu regulieren. Aber wir können das nicht tun, wenn wir das Problem nicht verstehen.”

Diese Forschung trägt wesentliches Wissen zum Bereich der KI-Täuschung bei und bietet wertvolle Erkenntnisse für Technologie-Designer und politische Entscheidungsträger, die KI-Technologie schaffen und regulieren, die zur Täuschung fähig ist oder möglicherweise selbstständig lernen kann, zu täuschen.