KI-Voreingenommenheit & kulturelle Stereotypen: Auswirkungen, Einschränkungen und Minderung

Künstliche Intelligenz (KI), insbesondere Generative KI, übertrifft weiterhin die Erwartungen mit ihrer Fähigkeit, menschliche Kognition und Intelligenz zu verstehen und nachzuahmen. Allerdings können die Ergebnisse oder Vorhersagen von KI-Systemen in vielen Fällen verschiedene Arten von KI-Voreingenommenheit widerspiegeln, wie z.B. kulturelle und rassische.

Das Blog “Barbies der Welt” von Buzzfeed (Barbies der Welt) zeigt diese kulturellen Voreingenommenheiten und Ungenauigkeiten deutlich. Diese “Barbies” wurden mit Midjourney erstellt, einem führenden KI-Bildgenerator, um herauszufinden, wie Barbies in verschiedenen Teilen der Welt aussehen würden. Wir werden später darauf zurückkommen.

Aber dies ist nicht der erste Fall, in dem KI “rassistisch” oder ungenaue Ergebnisse produziert hat. Zum Beispiel wurde Apple (AAPL ) 2022 wegen der Behauptung, dass der Blutsauerstoffsensor der Apple Watch gegenüber Menschen mit dunkler Hautfarbe voreingenommen sei, verklagt. In einem anderen Fall fanden Twitter-Nutzer heraus, dass Twitters automatischer Bildausschnitt-Algorithmus weiße Gesichter gegenüber schwarzen Gesichtern und Männer gegenüber Frauen bevorzugte. Diese sind kritische Herausforderungen, und ihre Lösung ist sehr schwierig.

In diesem Artikel werden wir uns mit der Frage auseinandersetzen, was KI-Voreingenommenheit ist, wie sie unsere Gesellschaft beeinflusst und wie Praktiker sie minderen können, um Herausforderungen wie kulturelle Stereotypen zu meistern.

Was ist KI-Voreingenommenheit?

KI-Voreingenommenheit tritt auf, wenn KI-Modelle diskriminierende Ergebnisse gegenüber bestimmten Bevölkerungsgruppen produzieren. Es gibt verschiedene Arten von Voreingenommenheiten, die in KI-Systeme eindringen und falsche Ergebnisse produzieren können. Einige dieser KI-Voreingenommenheiten sind:

• Stereotypische Voreingenommenheit: Stereotypische Voreingenommenheit bezieht sich auf das Phänomen, bei dem die Ergebnisse eines KI-Modells aus Stereotypen oder Vorurteilen über eine bestimmte Bevölkerungsgruppe bestehen.
• Rassische Voreingenommenheit: Rassische Voreingenommenheit in KI tritt auf, wenn das Ergebnis eines KI-Modells diskriminierend und ungerecht gegenüber einer Person oder Gruppe aufgrund ihrer Ethnie oder Rasse ist.
• Kulturelle Voreingenommenheit: Kulturelle Voreingenommenheit tritt auf, wenn die Ergebnisse eines KI-Modells eine Kultur gegenüber einer anderen bevorzugen.

Abgesehen von Voreingenommenheiten können auch andere Probleme die Ergebnisse eines KI-Systems behindern, wie z.B.:

• Ungenauigkeiten: Ungenauigkeiten treten auf, wenn die von einem KI-Modell produzierten Ergebnisse aufgrund inkonsistenter Trainingsdaten falsch sind.
• Halluzinationen: Halluzinationen treten auf, wenn KI-Modelle fiktive und falsche Ergebnisse produzieren, die nicht auf faktischen Daten basieren.

Auswirkungen von KI-Voreingenommenheit auf die Gesellschaft

Die Auswirkungen von KI-Voreingenommenheit auf die Gesellschaft können verheerend sein. Voreingenommene KI-Systeme können ungenaue Ergebnisse produzieren, die die bereits in der Gesellschaft vorhandenen Vorurteile verstärken. Diese Ergebnisse können Diskriminierung und Rechtsverletzungen erhöhen, den Auswahlprozess beeinflussen und das Vertrauen in KI-Technologie verringern.

Außerdem führen voreingenommene KI-Ergebnisse oft zu ungenauen Vorhersagen, die schwerwiegende Folgen für unschuldige Personen haben können. Zum Beispiel wurde Robert McDaniel im August 2020 zum Ziel eines kriminellen Akts, weil der prädiktive Polizeialgorithmus der Chicagoer Polizei ihn als “Person of Interest” eingestuft hatte.

Ähnlich können voreingenommene KI-Systeme im Gesundheitswesen zu schlechten Patientenergebnissen führen. 2019 entdeckte Science, dass ein weit verbreiteter US-amerikanischer Gesundheitsalgorithmus rassistisch gegenüber Menschen mit dunkler Hautfarbe voreingenommen war, was dazu führte, dass schwarze Patienten weniger intensiv betreut wurden.

Barbies der Welt

Im Juli 2023 veröffentlichte Buzzfeed einen Blog mit 194 von KI generierten Barbies aus aller Welt. Der Beitrag wurde auf Twitter viral. Obwohl Buzzfeed eine Disclaimer-Erklärung schrieb, konnte dies die Nutzer nicht daran hindern, die rassischen und kulturellen Ungenauigkeiten aufzuzeigen. Zum Beispiel trug die von KI generierte Barbie aus Deutschland die Uniform eines SS-Nazigenerals.

Ähnlich wurde die von KI generierte Barbie aus dem Südsudan mit einer Waffe an ihrer Seite dargestellt, was die tief verwurzelten Voreingenommenheiten in KI-Algorithmen widerspiegelt.

Außerdem zeigten mehrere andere Bilder kulturelle Ungenauigkeiten, wie z.B. die Barbie aus Katar, die einen Ghutra trug, eine traditionelle Kopfbedeckung, die von arabischen Männern getragen wird.

Dieser Blogbeitrag erhielt massive Kritik für kulturelle Stereotypen und Voreingenommenheit. Die London Interdisciplinary School (LIS) bezeichnete dies als repräsentationsschädlich, was durch die Einführung von Qualitätsstandards und die Errichtung von KI-Überwachungsbehörden kontrolliert werden muss.

Einschränkungen von KI-Modellen

KI hat das Potenzial, viele Branchen zu revolutionieren. Aber wenn Szenarien wie die oben genannten häufiger werden, kann dies zu einer Abnahme der allgemeinen KI-Akzeptanz führen, was zu verpassten Chancen führen kann. Solche Fälle treten typischerweise aufgrund erheblicher Einschränkungen in KI-Systemen auf, wie z.B.:

• Mangel an Kreativität: Da KI nur Entscheidungen auf der Grundlage der bereitgestellten Trainingsdaten treffen kann, mangelt es an Kreativität, um außerhalb der Box zu denken, was die Lösung kreativer Probleme behindert.

• Mangel an kontextuellem Verständnis: KI-Systeme haben Schwierigkeiten, kontextuelle Nuancen oder Sprachausdrücke einer Region zu verstehen, was oft zu Fehlern in den Ergebnissen führt.

• Trainingsvoreingenommenheit: KI basiert auf historischen Daten, die diskriminierende Muster enthalten können. Während des Trainings kann das Modell leicht diskriminierende Muster lernen, um unfaire und voreingenommene Ergebnisse zu produzieren.

Wie man KI-Voreingenommenheit reduziert

Experten schätzen, dass bis 2026 90% des Online-Inhalts synthetisch generiert sein könnten. Daher ist es wichtig, die Probleme in der Generativen KI-Technologie schnell zu minimieren.

Es gibt mehrere Schlüsselstrategien, um KI-Voreingenommenheit zu reduzieren. Einige davon sind:

• Datenqualität sicherstellen: Die Verwendung vollständiger, genauer und sauberer Daten in einem KI-Modell kann helfen, Voreingenommenheit zu reduzieren und genauere Ergebnisse zu produzieren.
• Vielfältige Datensätze: Die Einführung vielfältiger Datensätze in ein KI-System kann helfen, Voreingenommenheit zu mindern, da das KI-System im Laufe der Zeit inklusiver wird.

• Rückkopplungsschleifen: Durch eine ständige Rückkopplung und Lernschleife können KI-Modelle ihre Ergebnisse allmählich verbessern

• Erhöhte Regulierung: Globale KI-Regulierungen sind entscheidend, um die Qualität von KI-Systemen über Grenzen hinweg zu gewährleisten. Daher müssen internationale Organisationen zusammenarbeiten, um KI-Standardisierung zu gewährleisten.

• Erhöhte Akzeptanz verantwortungsvoller KI: Verantwortungsvolle KI-Strategien tragen positiv zur Minderung von KI-Voreingenommenheit bei, fördern Fairness und Genauigkeit in KI-Systemen und gewährleisten, dass sie einem vielfältigen Nutzerstamm dienen, während sie sich für kontinuierliche Verbesserung bemühen.

Durch die Verwendung vielfältiger Datensätze, ethischer Verantwortung und offener Kommunikationsmittel können wir sicherstellen, dass KI eine Quelle positiver Veränderung weltweit ist.

Wenn Sie mehr über Voreingenommenheit und die Rolle von KI in unserer Gesellschaft erfahren möchten, lesen Sie die folgenden Blogs.

• Wie Städte führende Technologien einsetzen, die auf unvoreingenommene KI-Algorithmen setzen
• KI kann Fehlinformationen und Voreingenommenheit in Nachrichten bekämpfen
• Voreingenommenheit und Fairness von KI-basierten Systemen im Finanzkriminalitätsbereich
• Ein KI-gesteuerter Voreingenommenheitsprüfer für Nachrichtenartikel, verfügbar in Python