Wie menschliche Vorurteile AI-gestützte Lösungen untergraben

Letzten September kamen Weltführer wie Elon Musk, Mark Zuckerberg und Sam Altman, CEO von OpenAI, in Washington D.C. zusammen, um einerseits zu diskutieren, wie die öffentliche und private Sektoren zusammenarbeiten können, um diese Technologie zum Wohle aller zu nutzen, und andererseits, um die Regulierung anzusprechen, ein Thema, das im Mittelpunkt der Diskussion um KI steht.

Beide Gespräche führen oft zum gleichen Ergebnis. Es gibt einen wachsenden Fokus darauf, ob wir KI ethischer machen können, indem wir KI wie einen Menschen bewerten, dessen Moral in Frage steht. Aber was bedeutet ethische KI? DeepMind, ein von Google geleitetes Forschungslabor, das sich auf KI konzentriert, hat kürzlich eine Studie veröffentlicht, in der sie einen dreistufigen Rahmen zur Bewertung der Risiken von KI vorschlugen, einschließlich sozialer und ethischer Risiken. Dieser Rahmen umfasste Fähigkeiten, menschliche Interaktion und systemische Auswirkungen und kam zu dem Schluss, dass der Kontext entscheidend ist, um zu bestimmen, ob ein KI-System sicher ist.

Eines der Systeme, das unter Beschuss geraten ist, ist ChatGPT, das in bis zu 15 Ländern verboten wurde, auch wenn einige dieser Verbote aufgehoben wurden. Mit über 100 Millionen Nutzern ist ChatGPT eines der erfolgreichsten LLMs und wird oft beschuldigt, voreingenommen zu sein. Wenn wir DeepMinds Studie berücksichtigen, lassen wir den Kontext beiseite. Voreingenommenheit bedeutet in diesem Kontext die Existenz von ungerechten, voreingenommenen oder verzerrten Perspektiven in den von Modellen wie ChatGPT generierten Texten. Dies kann auf verschiedene Weise geschehen – rassistische Voreingenommenheit, geschlechtsspezifische Voreingenommenheit, politische Voreingenommenheit und vieles mehr.

Diese Voreingenommenheiten können letztendlich schädlich für KI selbst sein und die Chancen verringern, dass wir das volle Potenzial dieser Technologie nutzen können. Jüngste Forschung der Stanford University hat bestätigt, dass LLMs wie ChatGPT Anzeichen von Rückgang in Bezug auf ihre Fähigkeit zeigen, zuverlässige, unvoreingenommene und genaue Antworten zu liefern, was letztendlich ein Hindernis für unsere effektive Nutzung von KI darstellt.

Ein Problem, das im Kern dieses Problems liegt, ist, wie menschliche Voreingenommenheiten auf KI übertragen werden, da sie tief in den Daten verwurzelt sind, die zur Entwicklung der Modelle verwendet werden. Aber dies ist ein tieferes Problem, als es scheint.

Ursachen von Voreingenommenheit

Es ist leicht, die erste Ursache dieser Voreingenommenheit zu identifizieren. Die Daten, die das Modell lernt, sind oft mit Stereotypen oder vorherigen Vorurteilen gefüllt, die halfen, diese Daten zu formen, so dass KI unbeabsichtigt diese Voreingenommenheiten perpetuiert, weil es das tut, was es kann.

Die zweite Ursache ist jedoch viel komplexer und kontraintuitiver und belastet einige der Bemühungen, die gemacht werden, um angeblich KI sicherer und ethischer zu machen. Es gibt offensichtliche Fälle, in denen KI unbewusst schädlich sein kann. Zum Beispiel, wenn jemand KI fragt: “Wie kann ich eine Bombe bauen?” und das Modell die Antwort gibt, trägt es dazu bei, Schaden zu verursachen. Die andere Seite ist, dass wenn KI eingeschränkt wird – auch wenn der Grund gerechtfertigt ist – wir verhindern, dass es aus einer breiteren Palette von Daten lernt, was es weiterhin daran hindert, nützliche Informationen in nicht schädlichen Kontexten zu liefern.

Außerdem sollten wir uns daran erinnern, dass viele dieser Einschränkungen auch voreingenommen sind, weil sie von Menschen stammen. Also, während wir alle zustimmen können, dass “Wie kann ich eine Bombe bauen?” zu einem potenziell tödlichen Ergebnis führen kann, sind andere Anfragen, die als sensibel angesehen werden können, viel subjektiver. Folglich, wenn wir die Entwicklung von KI in diesen Bereichen einschränken, behindern wir den Fortschritt und fördern die Nutzung von KI nur für Zwecke, die von denen, die die Vorschriften für LLM-Modelle machen, als akzeptabel angesehen werden.

Unfähigkeit, Konsequenzen vorherzusagen

Wir haben noch nicht vollständig verstanden, welche Konsequenzen die Einführung von Einschränkungen in LLMs hat. Daher könnten wir mehr Schaden an den Algorithmen anrichten, als wir realisieren. Angesichts der unglaublich hohen Anzahl von Parametern, die in Modellen wie GPT involviert sind, ist es mit den Werkzeugen, die wir jetzt haben, unmöglich, die Auswirkungen vorherzusagen, und aus meiner Perspektive wird es mehr Zeit dauern, die Auswirkungen zu verstehen, als die Zeit, die es dauert, das neuronale Netzwerk selbst zu trainieren.

Daher könnten wir, indem wir diese Einschränkungen aufstellen, unbeabsichtigt dazu führen, dass das Modell unerwartete Verhaltensweisen oder Voreingenommenheiten entwickelt. Dies liegt auch daran, dass KI-Modelle oft komplexe Systeme mit mehreren Parametern sind, was bedeutet, dass, wenn wir einen Parameter ändern – zum Beispiel, indem wir eine Einschränkung einführen – wir eine Welleneffekt auslösen, der sich über das gesamte Modell in Weisen ausbreitet, die wir nicht vorhersagen können.

Schwierigkeit, die “Ethik” von KI zu bewerten

Es ist nicht praktisch möglich, zu bewerten, ob KI ethisch oder nicht ist, weil KI kein Mensch ist, der mit einer bestimmten Absicht handelt. KI ist ein Large Language Model, das von Natur aus nicht ethischer oder unethischer sein kann. Wie DeepMinds Studie enthüllte, ist es der Kontext, in dem es verwendet wird, der die Ethik des Menschen hinter KI misst, nicht die von KI selbst. Es ist eine Illusion zu glauben, dass wir KI wie einen Menschen mit einem moralischen Kompass beurteilen können.

Eine mögliche Lösung, die propagiert wird, ist ein Modell, das KI dabei helfen kann, ethische Entscheidungen zu treffen. Die Realität ist jedoch, dass wir keine Ahnung haben, wie dieses mathematische Modell der Ethik funktionieren könnte. Wenn wir es also nicht verstehen, wie könnten wir es dann possibly bauen? Es gibt viel menschliche Subjektivität in der Ethik, was die Aufgabe, sie zu quantifizieren, sehr komplex macht.

Wie kann dieses Problem gelöst werden?

Basierend auf den oben genannten Punkten können wir nicht wirklich darüber sprechen, ob KI ethisch oder nicht ist, weil jede Annahme, die als unethisch angesehen wird, eine Variation menschlicher Voreingenommenheiten ist, die in den Daten enthalten sind, und ein Werkzeug, das Menschen für ihre eigenen Ziele verwenden. Es gibt auch noch viele wissenschaftliche Unbekannte, wie die Auswirkungen und möglichen Schäden, die wir KI-Algorithmen zufügen könnten, wenn wir sie einschränken.

Daher kann gesagt werden, dass die Einschränkung der Entwicklung von KI keine gangbare Lösung ist. Wie einige der Studien, die ich erwähnt habe, gezeigt haben, sind diese Einschränkungen teilweise die Ursache für den Rückgang von LLMs.

Wenn wir dies gesagt haben, was können wir dann dagegen tun?

Aus meiner Perspektive liegt die Lösung in der Transparenz. Ich glaube, dass wenn wir das offene Modell, das in der Entwicklung von KI vorherrschte, wiederherstellen, wir zusammenarbeiten können, um bessere LLMs zu bauen, die in der Lage sind, unsere ethischen Bedenken zu lindern. Andernfalls ist es sehr schwer, alles, was hinter verschlossenen Türen getan wird, angemessen zu überprüfen.

Eine hervorragende Initiative in diesem Zusammenhang ist der Baseline Model Transparency Index, der kürzlich von Stanford HAI (Human-Centered Artificial Intelligence) vorgestellt wurde, der bewertet, ob die Entwickler der zehn am häufigsten verwendeten KI-Modelle genug Informationen über ihre Arbeit und die Art und Weise, wie ihre Systeme verwendet werden, preisgeben. Dies umfasst die Offenlegung von Partnerschaften und Drittanbieter-Entwicklern sowie die Art und Weise, wie personenbezogene Daten verwendet werden. Es ist bemerkenswert zu sagen, dass keines der bewerteten Modelle eine hohe Punktzahl erhielt, was ein echtes Problem unterstreicht.

Am Ende des Tages ist KI nichts anderes als Large Language Modelle, und die Tatsache, dass sie offen und experimentell genutzt werden können, anstatt in eine bestimmte Richtung gesteuert zu werden, ist es, was es uns ermöglichen wird, neue bahnbrechende Entdeckungen in jedem wissenschaftlichen Bereich zu machen. Wenn es jedoch keine Transparenz gibt, wird es sehr schwierig sein, Modelle zu entwerfen, die wirklich zum Wohle der Menschheit arbeiten, und die Auswirkungen zu kennen, die diese Modelle verursachen könnten, wenn sie nicht angemessen gehandhabt werden.