KI-Voreingenommenheit und kulturelle Stereotypen: Auswirkungen, Einschränkungen und Abschwächung

Insbesondere künstliche Intelligenz (KI). Generative KI, übertrifft weiterhin die Erwartungen mit seiner Fähigkeit, menschliche Kognition und Intelligenz zu verstehen und nachzuahmen. In vielen Fällen können die Ergebnisse oder Vorhersagen von KI-Systemen jedoch verschiedene Arten von KI-Vorurteilen widerspiegeln, beispielsweise kulturelle oder rassische.

Buzzfeeds „Barbies der WeltDer Blog (der jetzt gelöscht ist) zeigt deutlich diese kulturellen Vorurteile und Ungenauigkeiten. Diese „Barbies“ wurden mit erstellt Zwischendurch – ein führender KI-Bildgenerator, um herauszufinden, wie Barbies in jedem Teil der Welt aussehen würden. Wir werden später mehr darüber sprechen.

Dies ist jedoch nicht das erste Mal, dass KI „rassistisch“ ist oder ungenaue Ergebnisse liefert. Im Jahr 2022 war es beispielsweise Apple verklagt wegen Vorwürfen, dass der Blutsauerstoffsensor der Apple Watch auf farbige Menschen ausgerichtet sei. In einem anderen gemeldeten Fall stellten Twitter-Nutzer dies fest Die automatische Bildzuschneide-KI von Twitter bevorzugte die Gesichter von Weißen gegenüber Schwarzen und Frauen gegenüber Männern. Dies sind entscheidende Herausforderungen, deren Bewältigung eine große Herausforderung darstellt.

In diesem Artikel werfen wir einen Blick darauf, was KI-Voreingenommenheit ist, wie sie sich auf unsere Gesellschaft auswirkt, und diskutieren kurz, wie Praktiker dies tun können mildern Es dient dazu, Herausforderungen wie kulturelle Stereotypen anzugehen.

Was ist KI-Bias?

KI-Voreingenommenheit tritt auf, wenn KI-Modelle diskriminierende Ergebnisse gegenüber bestimmten Bevölkerungsgruppen liefern. Verschiedene Arten von Verzerrungen können in KI-Systeme eindringen und zu falschen Ergebnissen führen. Einige dieser KI-Vorurteile sind:

• Stereotype Voreingenommenheit: Stereotype Voreingenommenheit bezieht sich auf das Phänomen, dass die Ergebnisse eines KI-Modells aus Stereotypen oder wahrgenommenen Vorstellungen über eine bestimmte Bevölkerungsgruppe bestehen.
• Rassistische Vorurteile: Rassistische Voreingenommenheit in der KI entsteht, wenn das Ergebnis eines KI-Modells diskriminierend und unfair gegenüber einer Einzelperson oder Gruppe aufgrund ihrer ethnischen Zugehörigkeit oder Rasse ist.
• Kulturelle Voreingenommenheit: Kulturelle Voreingenommenheit kommt ins Spiel, wenn die Ergebnisse eines KI-Modells eine bestimmte Kultur einer anderen vorziehen.

Abgesehen von Vorurteilen können auch andere Probleme die Ergebnisse eines KI-Systems beeinträchtigen, wie zum Beispiel:

• Ungenauigkeiten: Ungenauigkeiten treten auf, wenn die von einem KI-Modell erzeugten Ergebnisse aufgrund inkonsistenter Trainingsdaten falsch sind.
• Halluzinationen: Halluzinationen treten auf, wenn KI-Modelle fiktive und falsche Ergebnisse liefern, die nicht auf Fakten basieren.

Die Auswirkungen der KI-Verzerrung auf die Gesellschaft

Die Auswirkungen der KI-Voreingenommenheit auf die Gesellschaft können schädlich sein. Voreingenommene KI-Systeme können ungenaue Ergebnisse liefern, die die bereits in der Gesellschaft bestehenden Vorurteile verstärken. Diese Ergebnisse können zu mehr Diskriminierung und Rechtsverletzungen führen, sich auf Einstellungsprozesse auswirken und das Vertrauen in die KI-Technologie verringern.

Außerdem führen voreingenommene KI-Ergebnisse häufig zu ungenauen Vorhersagen, die schwerwiegende Folgen für unschuldige Personen haben können. Beispielsweise im August 2020, Robert McDaniel wurde zum Ziel einer Straftat, weil ihn der prädiktive Polizeialgorithmus des Chicago Police Department als „Person von Interesse“ einstufte.

Ebenso können voreingenommene KI-Systeme im Gesundheitswesen akute Folgen für den Patienten haben. Im Jahr 2019 Wissenschaft entdeckte, dass ein weit verbreitetes US-amerikanischer medizinischer Algorithmus war rassistisch voreingenommen gegenüber farbigen Menschen, was dazu führte, dass schwarze Patienten weniger risikoreiche Pflegemaßnahmen erhielten.

Barbies der Welt

Im Juli 2023, Buzzfeed hat einen Blog veröffentlicht bestehend aus 194 KI-generierten Barbies aus aller Welt. Der Beitrag ging auf Twitter viral. Obwohl Buzzfeed eine Haftungsausschlusserklärung verfasste, hinderte dies die Internetnutzer nicht daran, auf die rassistischen und kulturellen Ungenauigkeiten hinzuweisen. Das KI-generierte Bild der deutschen Barbie trug beispielsweise die Uniform eines SS-Nazi allgemein

In ähnlicher Weise wurde das von der KI erzeugte Bild einer südsudanesischen Barbie mit einer Waffe an ihrer Seite gezeigt, was die tief verwurzelte Voreingenommenheit in KI-Algorithmen widerspiegelt.

Abgesehen davon zeigten mehrere andere Bilder kulturelle Ungenauigkeiten, wie zum Beispiel die Katar-Barbie, die einen trug Gutra, ein traditioneller Kopfschmuck, der von arabischen Männern getragen wird.

Dieser Blogbeitrag erhielt massive Gegenreaktionen wegen kultureller Stereotypisierung und Voreingenommenheit. Der Londoner Interdisziplinäre Schule (LIS) nannte das Repräsentationsschaden Dies muss durch die Einführung von Qualitätsstandards und die Einrichtung von KI-Aufsichtsgremien in Schach gehalten werden.

Einschränkungen von KI-Modellen

KI hat das Potenzial dazu revolutionieren viele Branchen. Wenn sich jedoch Szenarien wie die oben genannten häufen, kann dies zu einem Rückgang der allgemeinen KI-Einführung und damit zu verpassten Chancen führen. Solche Fälle treten typischerweise aufgrund erheblicher Einschränkungen in KI-Systemen auf, wie zum Beispiel:

• Mangel an Kreativität: Da KI Entscheidungen nur auf Basis der vorgegebenen Trainingsdaten treffen kann, fehlt ihr die Kreativität, über den Tellerrand zu schauen, was kreative Problemlösungen behindert.

• Mangelndes Kontextverständnis: KI-Systeme haben Schwierigkeiten, kontextuelle Nuancen oder sprachliche Ausdrücke einer Region zu verstehen, was häufig zu Fehlern in den Ergebnissen führt.

• Trainings-Bias: KI stützt sich auf historische Daten, die alle möglichen diskriminierenden Stichproben enthalten können. Während des Trainings kann das Modell leicht diskriminierende Muster erlernen, um unfaire und voreingenommene Ergebnisse zu erzielen.

So reduzieren Sie Verzerrungen in KI-Modellen

Experten schätzen dass bis 2026 90 % der Online-Inhalte synthetisch generiert werden könnten. Daher ist es wichtig, die bei generativen KI-Technologien auftretenden Probleme schnell zu minimieren.

Es können mehrere Schlüsselstrategien implementiert werden, um Verzerrungen in KI-Modellen zu reduzieren. Einige davon sind:

• Stellen Sie die Datenqualität sicher: Die Aufnahme vollständiger, genauer und sauberer Daten in ein KI-Modell kann dazu beitragen, Verzerrungen zu reduzieren und genauere Ergebnisse zu erzielen.
• Verschiedene Datensätze: Die Einführung verschiedener Datensätze in ein KI-System kann dazu beitragen, Verzerrungen zu mildern, da das KI-System mit der Zeit immer integrativer wird.

• Rückkopplungsschleifen: Mit einer Konstante Feedback- und Lernschleife, KI-Modelle können ihre Ergebnisse schrittweise verbessern

• Erhöhte Vorschriften: Globale KI-Regulierungen sind von entscheidender Bedeutung für die Aufrechterhaltung der Qualität von KI-Systemen über Grenzen hinweg. Daher müssen internationale Organisationen zusammenarbeiten, um die KI-Standardisierung sicherzustellen.

• Verstärkte Einführung verantwortungsvoller KI: Verantwortungsvolle KI-Strategien tragen positiv dazu bei, KI-Voreingenommenheit zu mildern, Fairness und Genauigkeit in KI-Systemen zu fördern und sicherzustellen, dass sie eine vielfältige Benutzerbasis bedienen und gleichzeitig eine kontinuierliche Verbesserung anstreben.

Durch die Einbeziehung verschiedener Datensätze, ethischer Verantwortung und offener Kommunikationsmedien können wir sicherstellen, dass KI weltweit eine Quelle positiver Veränderungen ist.

Wenn Sie mehr über Voreingenommenheit und die Rolle der Künstlichen Intelligenz in unserer Gesellschaft erfahren möchten, lesen Sie die folgenden Blogs.

• Wie Städte führende Technologien einsetzen und dabei unvoreingenommene KI-Algorithmen nutzen
• KI kann Fehlinformationen und Voreingenommenheit in Nachrichten bekämpfen
• Voreingenommenheit und Fairness KI-basierter Systeme in der Finanzkriminalität
• Ein KI-gesteuerter Bias-Checker für Nachrichtenartikel, verfügbar in Python