Informatiker bekämpfen Bias in KI

Informatiker von der Princeton- und Stanford-Universität beschäftigen sich jetzt mit der Lösung von Bias-Problemen in der künstlichen Intelligenz (KI). Sie arbeiten an Methoden, die zu fairen Datenbeständen mit Bildern von Menschen führen. Die Forscher arbeiten eng mit ImageNet zusammen, einem Datenbestand mit über 13 Millionen Bildern. Im Laufe des letzten Jahrzehnts hat ImageNet dazu beigetragen, die Computer-Vision zu verbessern. Mit Hilfe ihrer Methoden empfahlen die Forscher Verbesserungen für die Datenbank.

ImageNet enthält Bilder von Objekten, Landschaften und Menschen. Forscher, die maschinelles Lernen-Algorithmen entwickeln, die Bilder klassifizieren, verwenden ImageNet als Datenquelle. Aufgrund der enormen Größe der Datenbank war es notwendig, automatisierte Bildsammlung und Crowdsourcing für die Bildannotierung zu verwenden. Jetzt arbeitet das ImageNet-Team daran, Bias und andere Probleme zu korrigieren. Die Bilder enthalten oft Menschen, die ungewollte Folgen der Konstruktion von ImageNet sind.

Olga Russakovsky ist Co-Autorin und Assistant Professorin für Informatik an der Princeton-Universität.

“Computer-Vision funktioniert jetzt wirklich gut, was bedeutet, dass es überall in verschiedenen Kontexten eingesetzt wird”, sagte er. “Das bedeutet, dass es jetzt an der Zeit ist, über die Auswirkungen auf die Welt nachzudenken und über diese Art von Fairness-Fragen zu sprechen.”

In dem neuen Paper identifizierte das ImageNet-Team systematisch nicht-visuelle Konzepte und anstößige Kategorien. Diese Kategorien umfassten rassistische und sexuelle Charakterisierungen, und das Team schlug vor, sie aus der Datenbank zu entfernen. Das Team hat auch ein Tool entwickelt, mit dem Benutzer Bildsätze von Menschen abrufen und spezifizieren können, und zwar nach Alter, Geschlechtsausdruck und Hautfarbe. Das Ziel ist es, Algorithmen zu erstellen, die Menschen in Bildern fairer klassifizieren.

Die Arbeit der Forscher wurde am 30. Januar auf der Konferenz der Association for Computing Machinery über Fairness, Accountability und Transparenz in Barcelona, Spanien, präsentiert.

“Es gibt einen großen Bedarf an Forschern und Labors mit kerntechnischer Expertise, um an diesen Art von Gesprächen teilzunehmen”, sagte Russakovsky. “Angesichts der Realität, dass wir Daten in großem Umfang sammeln müssen, angesichts der Realität, dass es durch Crowdsourcing erfolgen wird, weil das der effizienteste und etablierteste Pipeline ist, wie können wir das auf eine faire Weise tun, die nicht in diese Art von vorherigen Fallen gerät? Die Kernbotschaft dieses Papiers liegt in konstruktiven Lösungen.”

ImageNet wurde 2009 von einer Gruppe von Informatikern von der Princeton- und Stanford-Universität ins Leben gerufen. Es sollte als Ressource für akademische Forscher und Lehrer dienen. Die Erstellung des Systems wurde von der Princeton-Alumna und Fakultätsmitglied Fei-Fei Li geleitet.

ImageNet konnte durch die Verwendung von Crowdsourcing zu einem so großen Datenbestand mit annotierten Bildern werden. Eine der Hauptplattformen, die verwendet wurde, war der Amazon (AMZN ) Mechanical Turk (MTurk), und Arbeiter wurden bezahlt, um Kandidatenbilder zu verifizieren. Dies führte zu einigen Problemen, und es gab viele Bias und unangemessene Kategorisierungen.

Der Hauptautor Kaiyu Yang ist ein Doktorand in Informatik.

“Wenn Sie Menschen bitten, Bilder zu verifizieren, indem sie die richtigen aus einer großen Menge von Kandidaten auswählen, fühlen sich die Menschen unter Druck gesetzt, einige Bilder auszuwählen, und diese Bilder neigen dazu, diejenigen mit auffälligen oder stereotypischen Merkmalen zu sein”, sagte er.

Der erste Teil der Studie bestand darin, potenziell anstößige oder sensible Personenkategorien aus ImageNet zu filtern. Anstößige Kategorien wurden definiert als solche, die Obszönitäten oder rassistische oder geschlechtsspezifische Beleidigungen enthielten. Eine solche sensible Kategorie war die Klassifizierung von Menschen nach sexueller Orientierung oder Religion. Zwölf Doktoranden aus verschiedenen Hintergründen wurden eingestellt, um die Kategorien zu annotieren, und sie wurden angewiesen, eine Kategorie als sensibel zu markieren, wenn sie sich unsicher waren. Etwa 54% der Kategorien wurden eliminiert, oder 1.593 von den 2.932 Personenkategorien in ImageNet.

MTurk-Arbeiter bewerteten dann die “Bildbarkeit” der verbleibenden Kategorien auf einer Skala von 1 bis 5. 158 Kategorien wurden als sicher und bildbar eingestuft, mit einer Bewertung von 4 oder höher. Diese gefilterte Menge von Kategorien umfasste mehr als 133.000 Bilder, die sehr nützlich für die Ausbildung von Computer-Vision-Algorithmen sein können.

Die Forscher untersuchten die demografische Darstellung von Menschen in den Bildern, und das Ausmaß des Bias in ImageNet wurde bewertet. Suchmaschinen-Ergebnisse liefern oft Ergebnisse, die Männer, hellhäutige Menschen und Erwachsene zwischen 18 und 40 Jahren überrepräsentieren.

“Menschen haben festgestellt, dass die Verteilung der Demografien in Bildsuchergebnissen stark biased ist, und das ist der Grund, warum die Verteilung in ImageNet auch biased ist”, sagte Yang. “In diesem Paper haben wir versucht, zu verstehen, wie biased es ist, und auch, eine Methode vorzuschlagen, um die Verteilung auszugleichen.”

Die Forscher betrachteten drei Attribute, die auch unter den US-amerikanischen Anti-Diskriminierungsgesetzen geschützt sind: Hautfarbe, Geschlechtsausdruck und Alter. Die MTurk-Arbeiter annotierten dann jedes Attribut jeder Person in einem Bild.

Die Ergebnisse zeigten, dass ImageNet einen erheblichen Bias aufweist. Die am wenigsten repräsentierten Gruppen waren dunkelhäutige Menschen, Frauen und Erwachsene über 40 Jahre.

Ein Web-Interface-Tool wurde entwickelt, das es Benutzern ermöglicht, einen Satz von Bildern abzurufen, der demografisch ausgewogen ist, wie der Benutzer es wünscht.

“Wir wollen nicht sagen, was die richtige Art ist, die Demografien auszugleichen, weil es nicht ein sehr einfaches Problem ist”, sagte Yang. “Die Verteilung könnte in verschiedenen Teilen der Welt unterschiedlich sein – die Verteilung der Hautfarben in den USA ist anders als in Ländern Asiens, zum Beispiel. Also überlassen wir diese Frage unserem Benutzer, und wir stellen einfach ein Tool bereit, um einen ausgewogenen Teil der Bilder abzurufen.”

Das ImageNet-Team arbeitet jetzt an technischen Updates für seine Hardware und Datenbank. Sie versuchen auch, die Filterung der Personenkategorien und das Ausgleichstool, das in dieser Forschung entwickelt wurde, umzusetzen. ImageNet soll mit den Updates neu veröffentlicht werden, zusammen mit einer Aufforderung zur Rückmeldung von der Computer-Vision-Forschungsgemeinschaft.

Das Paper wurde auch von dem Princeton-Doktoranden Klint Qinami und dem Assistant Professor für Informatik Jia Deng co-autoriert. Die Forschung wurde von der National Science Foundation unterstützt.