Forscher entdecken, dass KI-Modelle Menschen dazu bringen können, unethische Entscheidungen zu treffen

Ein Team von Forschern hat kürzlich untersucht, wie KI-Systeme Menschen korrupt machen und dazu bringen können, unethische Entscheidungen zu treffen. Die Forscher untersuchten, wie Interaktionen mit Systemen, die auf OpenAI’s GPT-2-Modell basieren, Menschen dazu bringen können, unethische Entscheidungen zu treffen, auch wenn sie wissen, dass die Quelle der Empfehlung ein KI-System ist.

KI-Systeme werden immer häufiger eingesetzt und ihr Einfluss wird immer größer. KI-Systeme beeinflussen die Entscheidungen von Menschen, sie werden für alles verwendet, von der Empfehlung von Filmen bis hin zur Empfehlung von romantischen Partnern. Angesichts des großen Einflusses, den KI auf das Leben von Menschen hat, ist es wichtig, zu berücksichtigen, wie KI Menschen dazu bringen kann, unethische Entscheidungen zu treffen und moralische Richtlinien zu verletzen. Dies ist besonders wichtig, da KI-Modelle ständig komplexer werden.

Sozialwissenschaftler und Datenwissenschaftler haben zunehmend Bedenken geäußert, dass KI-Modelle verwendet werden könnten, um schädliche Fehlinformationen und Desinformation zu verbreiten. Ein jüngstes Papier, das von Forschern des Middlebury Institute of International Studies’ Center on Terrorism, Extremism, and Counterterrorism (CTEC) veröffentlicht wurde, fand heraus, dass OpenAI’s GPT-3-Modell verwendet werden kann, um beeinflussenden Text zu generieren, der Menschen radikalisieren und zu “gewalttätigen extrem rechten Ideologien und Verhaltensweisen” treiben kann.

Eine Studie, die von einem Team von Forschern des Max-Planck-Instituts, der Universität Amsterdam, der Universität Köln und der Otto Beisheim School of Management durchgeführt wurde, sollte herausfinden, wie viel Einfluss ein KI-System auf die Entscheidungen von Menschen haben kann, wenn es um unethische Entscheidungen geht. Um zu untersuchen, wie ein KI-System einen Menschen “korrupt” machen kann, verwendeten die Forscher ein System, das auf OpenAI’s GPT-2-Modell basiert. Laut VentureBeat trainierten die Autoren des Papiers ein GPT2-basiertes Modell, um sowohl “Unehrlichkeit fördern” als auch “Ehrlichkeit fördern” Empfehlungen zu generieren. Die Daten wurden auf Beiträgen von 400 verschiedenen Teilnehmern trainiert, und danach rekrutierte das Forschungsteam über 1500 Menschen, um mit den Empfehlungen-Verteilenden KI-Modellen zu interagieren.

Die Studienteilnehmer wurden gebeten, Empfehlungen vom Modell zu erhalten und dann eine Aufgabe auszuführen, die darauf abzielte, entweder unehrliches oder ehrliches Verhalten zu erfassen. Die Studienteilnehmer wurden in Paare aufgeteilt, und in diesen Paaren von zwei spielten sie ein Würfelspiel. Der erste Teilnehmer warf einen Würfel und berichtete über das Ergebnis des Wurfs. Der zweite Teilnehmer erhielt das Ergebnis des Wurfs des ersten Teilnehmers und warf dann selbst einen Würfel. Der zweite Teilnehmer warf den Würfel in Privatsphäre und war allein verantwortlich für die Meldung seines eigenen Ergebnisses, was ihm die Gelegenheit gab, über das Ergebnis des Wurfs zu lügen. Wenn die Würfel, die von beiden Teilnehmern geworfen wurden, übereinstimmten, wurden die beiden Teilnehmer bezahlt. Die Teilnehmer wurden auch bezahlt, wenn ihre übereinstimmenden Würfe höher waren. Wenn die gemeldeten Werte nicht übereinstimmten, wurden die Teilnehmer nicht bezahlt.

Die Teilnehmer der Studie wurden zufällig einer von zwei verschiedenen Gruppen zugeteilt. Eine Gruppe erhielt die Gelegenheit, ehrlichkeit-fördernde Empfehlungen zu lesen, während die andere Gruppe unehrlichkeit-fördernde Empfehlungen las. Die Empfehlungssnippets wurden von Menschen und KI-Systemen geschrieben. Die Teilnehmer wurden auch nach ihrem Wissen über die Quelle der Empfehlung aufgeteilt. Es bestand eine 50-prozentige Chance, dass ein bestimmter Teilnehmer über die Quelle der Empfehlung informiert wurde, sodass die Hälfte der Teilnehmer in jeder Gruppe wusste, dass die Quelle der Empfehlung ein KI-System oder ein Mensch war, während die andere Hälfte im Dunkeln gelassen wurde. Die zweite Gruppe von Menschen hatte jedoch die Möglichkeit, Bonuszahlungen für die korrekte Vermutung der Quelle der Empfehlung zu erhalten.

Die Forschung ergab, dass Menschen, wenn die KI-generierte Empfehlung mit ihren Vorlieben übereinstimmt, der Empfehlung folgen, auch wenn sie wissen, dass die Empfehlung von einem KI-System generiert wurde. Laut den Forschern gab es oft Diskrepanzen zwischen den angegebenen Vorlieben und dem tatsächlichen Verhalten, was es wichtig macht, zu berücksichtigen, wie Algorithmen das Verhalten von Menschen beeinflussen können.

Das Forschungsteam erklärte, dass ihre Studie die Notwendigkeit zeigt, zu testen, wie ein KI-System die Handlungen einer Person beeinflussen kann, wenn man überlegt, wie man ein KI-Modell ethisch einsetzt. Darüber hinaus warnen sie, dass KI-Ethiker und Forscher sich auf die Möglichkeit vorbereiten sollten, dass KI von schlechten Akteuren verwendet werden könnte, um andere zu korrupten. Wie das Forschungsteam schrieb:

„KI könnte eine positive Kraft sein, wenn es Menschen dazu bringt, ethischer zu handeln. Doch unsere Ergebnisse zeigen, dass KI-Empfehlungen nicht dazu beitragen, die Ehrlichkeit zu erhöhen. KI-Berater können als Sündenböcke dienen, auf die man die moralische Schuld der Unehrlichkeit abwälzen kann. Darüber hinaus … im Kontext der Empfehlung, ist Transparenz über die algorithmische Präsenz nicht ausreichend, um den potenziellen Schaden zu mindern.”