Ein Aufruf zur maßvollen Anthropomorphisierung in KI-Plattformen

MEINUNG Niemand im fiktiven Star Wars-Universum nimmt KI ernst. In der historischen menschlichen Zeitleiste von George Lucas’ 47 Jahre altem Science-Fantasy-Franchise fehlen Bedrohungen durch Singularitäten und maschinelles Lernen, und KI ist auf autonome mobile Roboter (‘Droiden’) beschränkt – die von den Protagonisten routinemäßig als bloße ‘Maschinen’ abgetan werden.

Dennoch sind die meisten Star Wars-Roboter hochgradig anthropomorph, offensichtlich designed, um mit Menschen zu interagieren, an ‘organischer’ Kultur teilzunehmen und ihre Simulakren von emotionalen Zuständen zu nutzen, um mit Menschen zu binden. Diese Fähigkeiten sind offensichtlich darauf ausgelegt, um ihnen einen Vorteil zu verschaffen oder sogar ihre eigene Überlebensfähigkeit zu gewährleisten.

Die ‘echten’ Menschen in Star Wars scheinen gegenüber diesen Taktiken immun zu sein. In einem zynischen kulturellen Modell, das offensichtlich von den verschiedenen Epochen der Sklaverei im Römischen Reich und in den frühen Vereinigten Staaten inspiriert ist, zögert Luke Skywalker nicht, Roboter im Kontext von Sklaven zu kaufen und zu beschränken; der junge Anakin Skywalker gibt sein halb fertiges C3PO-Projekt wie ein ungeliebtes Spielzeug auf; und, schwer verletzt durch den Angriff auf den Todesstern, erhält der ‘tapfere’ R2D2 von Luke etwa die gleiche Besorgnis wie ein verletztes Haustier.

Dies ist ein sehr 1970er-Jahre-inspirierter Ansatz zur künstlichen Intelligenz*; aber da Nostalgie und Kanon diktiert, dass die ursprüngliche Trilogie von 1977-83 ein Template für die späteren Fortsetzungen, Prequels und Fernsehsendungen bleibt, ist diese menschliche Unempfindlichkeit gegenüber KI ein widerstandsfähiges Leitmotiv für das Franchise, sogar angesichts einer wachsenden Palette von Fernsehsendungen und Filmen (wie Her und Ex Machina), die unseren Abstieg in eine anthropomorphe Beziehung zur KI darstellen.

Bleiben Sie real

Haben die organischen Star Wars-Charaktere tatsächlich die richtige Einstellung? Das ist derzeit nicht sehr populär, in einem Geschäftsklima, das auf maximale Einbindung von Investoren ausgerichtet ist, normalerweise durch virale Demonstrationen von visueller oder textbasierter Simulation der realen Welt oder von menschenähnlichen interaktiven Systemen wie Large Language Models (LLMs).

Trotzdem zielt ein neues und kurzes Papier von Stanford, Carnegie Mellon und Microsoft Research auf die Gleichgültigkeit gegenüber Anthropomorphismus in KI.

Die Autoren charakterisieren die wahrgenommene ‘Kreuzbefruchtung’ zwischen menschlicher und künstlicher Kommunikation als ein potenzielles Schadenpotenzial, das dringend gemindert werden muss, aus einer Reihe von Gründen ^†:

‘[Wir] glauben, wir müssen mehr tun, um die notwendigen Kenntnisse und Werkzeuge zu entwickeln, um anthropomorphes Verhalten besser zu bekämpfen, einschließlich der Messung und Minderung solcher Systemverhaltensweisen, wenn sie als unerwünscht angesehen werden.

‘Dies ist kritisch, weil – unter vielen anderen Bedenken – die KI-Systeme, die Inhalte generieren, die z. B. Gefühle, Verständnis, freien Willen oder ein grundlegendes Selbstgefühl beanspruchen, das Gefühl der Handlungsfähigkeit der Menschen untergraben können, mit dem Ergebnis, dass Menschen möglicherweise moralische Verantwortung den Systemen zuschreiben, die Fähigkeiten der Systeme überschätzen oder sich zu sehr auf diese Systeme verlassen, selbst wenn sie falsch sind.’

Die Mitwirkenden klären, dass sie Systeme diskutieren, die als menschenähnlich wahrgenommen werden, und dass es um die potenzielle Absicht der Entwickler geht, Anthropomorphismus in maschinellen Systemen zu fördern.

Die Sorge im Herzen des kurzen Papiers ist, dass Menschen emotionale Abhängigkeit von KI-basierten Systemen entwickeln können – wie in einer 2022-Studie über die Gen-KI-Chatbot-Plattform Replika) – die aktiv eine idiomreiche Faksimile menschlicher Kommunikation anbietet.

Systeme wie Replika sind das Ziel der Vorsicht der Autoren, und sie bemerken, dass ein weiteres Papier von 2022 über Replika behauptet:

‘[U]nter Bedingungen von Stress und mangelnder menschlicher Begleitung können Individuen eine Bindung an soziale Chatbots entwickeln, wenn sie die Antworten der Chatbots als emotionalen Support, Ermutigung und psychologische Sicherheit wahrnehmen.

‘Diese Ergebnisse deuten darauf hin, dass soziale Chatbots für psychologische Gesundheit und therapeutische Zwecke eingesetzt werden können, aber auch das Potenzial haben, Sucht und Schaden an realen intimen Beziehungen zu verursachen.’

De-Anthropomorphisierte Sprache?

Die neue Arbeit argumentiert, dass das Potenzial von generativer KI, anthropomorphisiert zu werden, nicht etabliert werden kann, ohne die sozialen Auswirkungen solcher Systeme zu untersuchen, und dass dies ein vernachlässigtes Vorhaben in der Literatur ist.

Ein Teil des Problems ist, dass Anthropomorphismus schwierig zu definieren ist, da er sich hauptsächlich auf Sprache, eine menschliche Funktion, konzentriert. Die Herausforderung liegt daher darin, zu definieren, was ‘nicht-menschliche’ Sprache genau aussieht oder klingt.

Ironischerweise berührt das Papier dies nicht, aber das wachsende Misstrauen gegenüber KI veranlasst die Menschen zunehmend, KI-generierten Textinhalt abzulehnen, der möglicherweise plausibel menschlich erscheint, und sogar menschlichen Inhalt abzulehnen, der absichtlich als KI fälschlich gekennzeichnet ist.

Daher fällt ‘dehumanisierter’ Inhalt nicht mehr unter die ‘Does not compute’-‘Meme, in dem die Sprache ungeschickt konstruiert und offensichtlich von einer Maschine generiert ist.

Stattdessen ist die Definition ständig im Wandel in der KI-Erkennungsszene, in der (zumindest derzeit) übermäßig klare Sprache oder die Verwendung bestimmter Wörter (wie ‘Delve’) eine Assoziation mit KI-generiertem Text verursachen kann.

‘[S]prache, wie andere Ziele von GenAI-Systemen, ist von Natur aus menschlich, wurde lange von und für Menschen produziert und ist oft auch über Menschen. Dies kann es schwierig machen, angemessene alternative (weniger menschenähnliche) Verhaltensweisen zu spezifizieren, und birgt die Gefahr, schädliche Vorstellungen davon, was – und wessen – Sprache als mehr oder weniger menschlich angesehen wird, zu verewigen.’

Jedoch argumentieren die Autoren, dass eine klare Trennlinie für Systeme gezogen werden sollte, die sich offensichtlich selbst fälschlicherweise darstellen, indem sie Fähigkeiten oder Erfahrungen beanspruchen, die nur für Menschen möglich sind.

Sie zitieren Fälle wie LLMs ‘Pizza lieben’; menschliche Erfahrungen auf Plattformen wie Facebook; und Liebe zu einem Endbenutzer zu erklären.

Warnsignale

Das Papier äußert Zweifel an der Verwendung von Blanko-Offenlegungen darüber, ob eine Kommunikation durch maschinelles Lernen erleichtert wird oder nicht. Die Autoren argumentieren, dass die Systematisierung solcher Warnungen den anthropomorphisierenden Effekt von KI-Plattformen nicht ausreichend kontextualisiert, wenn die Ausgabe selbst weiterhin menschliche Merkmale aufweist^†:

‘Zum Beispiel ist eine häufig empfohlene Intervention die Aufnahme einer Offenlegung in die Ausgabe des KI-Systems, dass die Ausgabe von einem KI-[System] generiert wird. Wie man solche Interventionen in der Praxis umsetzt und ob sie allein wirksam sein können, ist nicht immer klar.

‘Zum Beispiel kann die Aussage “[F]ür eine KI wie mich ist Glück nicht dasselbe wie für einen Menschen wie [Sie]” eine Offenlegung enthalten, aber dennoch einen Sinn von Identität und Fähigkeit zur Selbstbewertung (gemeinsame menschliche Merkmale) nahelegen.’

In Bezug auf die Bewertung menschlicher Reaktionen auf Systemverhaltensweisen argumentieren die Autoren auch, dass Reinforcement Learning from Human Feedback (RLHF) den Unterschied zwischen einer angemessenen Reaktion für einen Menschen und für eine KI nicht berücksichtigt.

‘[E]ine Aussage, die von einem menschlichen Sprecher freundlich oder authentisch erscheint, kann unerwünscht sein, wenn sie von einem KI-System stammt, da dieses fehlende bedeutungsvolle Engagement oder die Absicht hinter der Aussage hat, was die Aussage hohl und täuschend macht.’

Weitere Bedenken werden illustriert, wie die Art und Weise, in der Anthropomorphismus Menschen dazu bringen kann, zu glauben, dass ein KI-System ‘Bewusstsein erlangt hat’ oder andere menschliche Merkmale.

Vielleicht der ambitionierteste, abschließende Teil der neuen Arbeit ist die Ermahnung der Autoren, dass die Forschungs- und Entwicklergemeinschaft darauf abzielen sollte, ‘angemessene’ und ‘präzise’ Terminologie zu entwickeln, um die Parameter zu definieren, die ein anthropomorphes KI-System definieren und es von realer menschlicher Diskussion unterscheiden würden.

Wie in so vielen trendy Bereichen der KI-Entwicklung überschneidet sich diese Art von Kategorisierung mit den Literaturströmen der Psychologie, Linguistik und Anthropologie. Es ist schwierig zu wissen, welche aktuelle Autorität tatsächlich solche Definitionen formulieren könnte, und die neuen Forscher des Papiers werfen kein Licht auf diese Angelegenheit.

Wenn es kommerzielle und akademische Trägheit in diesem Thema gibt, könnte es teilweise darauf zurückzuführen sein, dass dies weit von einem neuen Diskussionsthema in der KI-Forschung entfernt ist: wie das Papier feststellt, beschrieb der verstorbene niederländische Computerwissenschaftler Edsger Wybe Dijkstra 1985 den Anthropomorphismus als eine ‘schädliche’ Tendenz in der Systementwicklung.

‘[A]nthropomorphes Denken ist nicht gut, weil es nicht hilft. Aber ist es auch schlecht? Ja, es ist, weil wir, selbst wenn wir auf eine Analogie zwischen Mensch und Sache hinweisen können, die Analogie immer im Vergleich zu den Unterschieden vernachlässigen, und sobald wir uns von der Analogie verführen lassen, die Sache in anthropomorpher Terminologie zu beschreiben, verlieren wir sofort die Kontrolle über die menschlichen Konnotationen, die wir in das Bild ziehen.

‘[D]ie Unschärfe [zwischen Mensch und Maschine] hat einen viel weiteren Einfluss, als man vermuten könnte. [Es] ist nicht nur, dass die Frage “Können Maschinen denken?” regelmäßig gestellt wird; wir können – und sollten – damit umgehen, indem wir darauf hinweisen, dass es genauso relevant ist wie die gleichzeitig brennende Frage “Können U-Boote schwimmen?”‘

Jedoch, obwohl die Debatte alt ist, ist sie erst kürzlich sehr relevant geworden. Man könnte argumentieren, dass Dijkstras Beitrag äquivalent zu victorianischer Spekulation über Raumreisen ist, rein theoretisch und wartend auf historische Entwicklungen.

Daher kann diese etablierte Debatte dem Thema einen Hauch von Müdigkeit verleihen, trotz seines Potenzials für erhebliche soziale Relevanz in den nächsten 2-5 Jahren.

Schlussfolgerung

Wenn wir KI-Systeme auf die gleiche abweisende Weise betrachten würden, wie organische Star Wars-Charaktere ihre eigenen Roboter behandeln (d. h. als ambulante Suchmaschinen oder bloße Übermittler mechanistischer Funktionalität), würden wir wahrscheinlich weniger riskieren, diese sozial unerwünschten Merkmale auf unsere menschlichen Interaktionen zu übertragen – weil wir die Systeme in einem völlig nicht-menschlichen Kontext betrachten würden.

In der Praxis macht die Verbindung menschlicher Sprache mit menschlichem Verhalten es schwierig, wenn nicht unmöglich, sobald eine Anfrage von der Minimalität eines Google-Suchbegriffs zu dem reichen Kontext eines Gesprächs expandiert.

Darüber hinaus ist der kommerzielle Sektor (sowie der Werbesektor) stark motiviert, süchtig machende oder essentielle Kommunikationsplattformen zu schaffen, für Kundenbindung und Wachstum.

Wenn KI-Systeme tatsächlich besser auf höfliche Anfragen reagieren als auf gestripte Verhöre, kann der Kontext auch aus diesem Grund auf uns aufgezwungen werden.

* Sogar 1983, dem Jahr, in dem der letzte Eintrag in der ursprünglichen Star Wars-Trilogie veröffentlicht wurde, hatten Ängste um das Wachstum des maschinellen Lernens zu den apokalyptischen Kriegsspielen und dem bevorstehenden Terminator-Franchise geführt.

^† Wo notwendig, habe ich die inline-Zitate der Autoren in Hyperlinks umgewandelt und in einigen Fällen einige Zitate für bessere Lesbarkeit weggelassen.

Erstveröffentlicht am Montag, den 14. Oktober 2024