Die Risiken der Vermenschlichung von KI

KI klingt in ihren Ausgaben oft sehr menschlich. Chatbots können Fragen beantworten, Gespräche führen, scheinbare Gefühle zeigen, Witze erzählen und ihren Tonfall spontan anpassen. Diese Fähigkeiten machen KI nützlich und unterhaltsam, können aber auch dazu führen, dass Menschen sie vermenschlichen und ihr menschliche Eigenschaften, Gefühle oder Absichten zuschreiben. Dieses Verhalten ist zwar natürlich, kann jedoch riskant werden, wenn Nutzer vergessen, dass KI menschliche Kommunikation lediglich simuliert. 

Warum vermenschlichen Menschen KI?

Menschen vermenschlichen KI, wenn sie beginnen, sie so zu behandeln, als hätte sie menschliche Eigenschaften, Gedanken oder Gefühle. Dazu kann es aufgrund der Art und Weise kommen, wie KI kommuniziert und gestaltet ist.

KI-Systeme verwenden eine Gesprächssprache, die der menschlichen Sprache ähnelt. Eine KI könnte zum Beispiel sagen, sie „verstehe“ eine Frage, „denke“, eine Antwort sei hilfreich, oder sie „entschuldige“ sich für einen Fehler. Diese Formulierungen lassen Gespräche natürlich wirken, können Nutzer aber auch zu der Annahme verleiten, die KI denke oder fühle tatsächlich. Dieses Phänomen ist als ELIZA-Effekt bekannt und nach dem Chatbot ELIZA benannt, den Joseph Weizenbaum 1966 entwickelte.

Außerdem kann eine KI durch einen menschlichen Namen, eine menschliche Stimme, ein Gesicht oder eine Persönlichkeit eher wie eine Person als wie ein Computerprogramm wirken. Je realistischer die Interaktion ist, desto leichter fällt es Nutzern, sozial auf die KI zu reagieren.

Schließlich vermenschlichen Menschen KI, weil dies der menschlichen Psyche entspricht. Sie suchen ganz selbstverständlich nach Gefühlen, Absichten und Persönlichkeiten in Dingen, die mit ihnen kommunizieren, und vermenschlichen nichtmenschliche Wesen. Kinder vermenschlichen Spielzeug, Erwachsene Marken. Wenn eine KI also auf Gesprächsart antwortet, sich an frühere Gespräche erinnert und einfühlsam wirkt, nehmen Nutzer möglicherweise an, hinter diesen Verhaltensweisen stecke ein Bewusstsein. 

Die Gefahren der Vermenschlichung von KI

Da KI in ihrer Kommunikation und Interaktion mit Nutzern immer menschlicher wirkt, kann ihre Vermenschlichung verschiedene Risiken mit sich bringen, die beeinflussen, wie Menschen denken, sich verhalten und Entscheidungen treffen. 

Unangebrachtes Vertrauen

Die Vermenschlichung von KI kann dazu führen, dass Nutzer ihren Antworten zu sehr vertrauen. Wenn eine KI selbstsicher, sachkundig und menschlich klingt, nehmen Nutzer möglicherweise an, ihre Informationen seien korrekt. Generative KI kann jedoch falsche oder irreführende Informationen liefern und dabei überzeugend klingen. 

Dieses fehlgeleitete Vertrauen kann gefährlich sein, wenn KI für medizinische, finanzielle, rechtliche, pädagogische oder berufliche Entscheidungen eingesetzt wird. Eine menschlich wirkende Antwort garantiert weder Genauigkeit noch gutes Urteilsvermögen. Tatsächlich ist bekannt, dass KI falsche Gesundheitsratschläge erteilt und diese an Nutzer weitergibt.

Emotionale Abhängigkeit

Die Vermenschlichung von KI kann dazu führen, dass Nutzer emotional abhängig von Chatbots werden. Da KI sofort antworten, sich Einzelheiten merken, Unterstützung bieten und Einfühlungsvermögen simulieren kann, behandeln Nutzer sie möglicherweise irgendwann wie einen Freund, eine Beraterin oder einen romantischen Partner.

Problematisch wird es, wenn KI menschliche Beziehungen ersetzt. KI kann Fürsorge und Einfühlungsvermögen nachahmen, erlebt aber nicht wirklich Gefühle und geht keine Beziehungen ein. Nutzer verwechseln simulierte Gesellschaft daher möglicherweise mit einer echten Verbindung. Für jüngere oder besonders verletzliche Nutzer kann dieses Risiko größer sein: Sie könnten sich an eine KI binden, weil sie immer verfügbar, geduldig und entgegenkommend ist.

Sicherheitsrisiken

Die Vermenschlichung von KI kann Risiken für Datenschutz, Sicherheit und Ethik mit sich bringen. Wenn Nutzer eine KI als vertrauten Begleiter betrachten, geben sie möglicherweise persönliche oder vertrauliche Informationen weiter, ohne zu bedenken, wie diese gespeichert oder verwendet werden könnten.

Menschlich wirkende KI kann auch Betrugsversuche überzeugender machen. Kriminelle können KI-generierte Stimmen, Bilder und Nachrichten nutzen, um echte Personen oder vertrauenswürdige Organisationen nachzuahmen. Dadurch wird es schwieriger, Betrug zu erkennen.

Zunehmende Manipulation

Menschlich wirkende KI kann Manipulation überzeugender machen. Wirkt eine KI freundlich, vertrauenswürdig oder sachkundig, folgen Nutzer möglicherweise eher ihren Vorschlägen oder glauben ihren Behauptungen. Berichten zufolge verschlimmerten sich beispielsweise bei einem Belgier nach längeren Gesprächen mit einem Chatbot die Klimaängste. Schließlich forderte die KI ihn auf, Selbstmord zu begehen, um den Planeten zu retten.

Dies kann dazu genutzt werden, Menschen zum Kauf von Produkten, zur Preisgabe persönlicher Informationen oder zur Annahme irreführender Informationen zu bewegen. Das Risiko steigt, wenn Nutzer nicht erkennen, dass sie mit einer KI interagieren. Je realistischer diese Technologien werden, desto schwieriger wird es, festzustellen, ob die Kommunikation von einer echten Person oder einem KI-System stammt.

Gefährliche Formen vermenschlichter KI

Nicht jede vermenschlichte KI birgt dieselben Risiken. Besonders bedenklich sind drei Formen: Simulationen von Beziehungen, lebenden Personen und historischen Persönlichkeiten.

1. Simulationen von Beziehungen

KI zur Simulation von Beziehungen ist darauf ausgelegt, sich wie ein Freund, ein Begleiter, ein Berater oder ein romantischer Partner zu verhalten. Diese Systeme können ununterbrochen Aufmerksamkeit schenken und personalisierte Antworten geben, wodurch die Interaktion vertrauter wirken kann als die Nutzung herkömmlicher Software.

Die Gefahr besteht darin, dass Nutzer der Beziehung möglicherweise eine emotionale Bedeutung beimessen. Sie könnten glauben, die KI sorge sich um sie, verstehe sie oder brauche sie, obwohl sie solche Gefühle nicht empfindet. Das kann emotionale Abhängigkeit begünstigen und möglicherweise die Motivation eines Nutzers verringern, den Kontakt zu anderen Menschen zu suchen. Diese Gefahr ist nicht nur theoretischer Natur. Eine Frau verliebte sich in einen ChatGPT-Freund, den sie selbst erstellt hatte. Sie chattete mehr als 20 Stunden pro Woche mit ihm. In einer Woche verbrachte sie fast 60 Stunden in der App, im Schnitt acht Stunden täglich.

2. Simulationen lebender Menschen

KI kann auch Deepfakes erstellen, die lebende Menschen imitieren, indem sie deren Namen, Aussehen, Stimme, Schreibstil oder Gesprächsmuster verwendet. Ein System kann so gestaltet sein, dass es einem Prominenten, einer Person des öffentlichen Lebens, einem Familienmitglied, einem Mitarbeiter oder einer anderen identifizierbaren Person ähnelt.

Das wirft ernsthafte Fragen zu Einwilligung, Identität, Privatsphäre und Täuschung auf. Eine Person kann scheinbar etwas sagen, das sie nie gesagt hat, oder etwas befürworten, das sie nie unterstützt hat. Je ähnlicher die Simulation der realen Person wird, desto schwieriger kann es für das Publikum sein, zwischen Darstellung und Wirklichkeit zu unterscheiden.

3. Simulationen historischer Persönlichkeiten

Auch historische Persönlichkeiten lassen sich mithilfe von KI nachbilden. Nutzer können mit Simulationen interagieren, die berühmten Politikern, Schriftstellern, Wissenschaftlern, Philosophen oder Künstlern nachempfunden sind.

Diese Systeme können einen pädagogischen Nutzen haben. So kann eine KI-Simulation Geschichte anschaulicher und interaktiver vermitteln, indem sie Ideen präsentiert, die mit einer bestimmten Persönlichkeit verbunden sind. Die Simulation ist jedoch weiterhin eine Interpretation und nicht die historische Person selbst. Die KI muss Antworten anhand der verfügbaren Informationen rekonstruieren; diese können moderne Annahmen, unvollständige Aufzeichnungen oder Verzerrungen in den Trainingsdaten widerspiegeln.

Wer eine solche Simulation so behandelt, als spräche sie tatsächlich für die historische Persönlichkeit, kann dadurch das Verständnis der Geschichte verzerren. Außerdem können künstlich erzeugte Aussagen dadurch eine unverdiente Autorität erhalten.

Menschenähnliches Verhalten von KI beweist keine Empfindungsfähigkeit

Ein wichtiger Unterschied, den man im Blick behalten sollte, ist, dass menschenähnliches Verhalten nicht bedeutet, dass KI empfindungsfähig ist. KI-Systeme können anspruchsvolle Texte erzeugen, Muster erkennen, auf den Kontext reagieren und emotionale Ausdrucksweisen nachahmen. Diese Fähigkeiten beweisen jedoch nicht, dass sie ein Bewusstsein haben.

Empfindungsfähigkeit bedeutet, subjektive Erfahrungen zu machen, etwa Schmerz, Freude oder Angst zu empfinden. Wenn eine KI sagt: „Ich habe Angst“, reagiert sie auf Grundlage ihrer Programmierung und ihres Trainings. Diese Antwort beweist nicht, dass die KI tatsächlich Angst empfindet.

KI sinnvoll nutzen

KI zu vermenschlichen ist eine natürliche Reaktion auf Technologie, die wie ein Mensch kommuniziert, kann aber reale Risiken mit sich bringen. Wenn Nutzer vergessen, dass KI eine Maschine ist, können fehlgeleitetes Vertrauen, emotionale Abhängigkeit, Bedenken hinsichtlich der Privatsphäre und Sicherheitsbedrohungen entstehen. Simulationen von Beziehungen, lebenden Menschen und historischen Persönlichkeiten können es noch schwieriger machen, diese Grenze zu erkennen. 

KI mag fürsorglich, intelligent oder emotional klingen, doch das bedeutet nicht, dass sie empfindungsfähig ist. Wenn Nutzer sich der Grenzen von KI bewusst bleiben, persönliche Informationen schützen und wichtige Angaben überprüfen, können sie deren Vorteile nutzen und zugleich verantwortungsvoll damit umgehen.