Entschleierung von Voreingenommenheit in künstlicher Intelligenz: Herausforderungen und Lösungen

Die jüngsten Fortschritte im Bereich der generativen künstlichen Intelligenz haben zu einer begleitenden Boom in Unternehmensanwendungen über verschiedene Branchen hinweg geführt, einschließlich Finanzen, Gesundheitswesen und Verkehr. Die Entwicklung dieser Technologie wird auch zu anderen aufkommenden Technologien wie Cybersicherheits-Verteidigungstechnologien, Quantencomputing-Fortschritten und Durchbrüchen in der drahtlosen Kommunikationstechnik führen. Allerdings bringt diese Explosion von Next-Generation-Technologien ihre eigenen Herausforderungen mit sich.

Beispielsweise kann die Übernahme von künstlicher Intelligenz zu komplexeren Cyberangriffen, Speicher- und Speicherengpässen aufgrund der Zunahme der Rechenleistung und ethischen Bedenken hinsichtlich der Voreingenommenheit von künstlichen Intelligenz-Modellen führen. Die gute Nachricht ist, dass NTT Research einen Weg vorgeschlagen hat, um Voreingenommenheit in tiefen neuronalen Netzen (DNNs), einer Art künstlicher Intelligenz, zu überwinden.

Diese Forschung ist ein bedeutender Durchbruch, da nicht voreingenommene künstliche Intelligenz-Modelle zu einer Verbesserung in der Einstellung, im Strafrechtssystem und im Gesundheitswesen beitragen werden, wenn sie nicht von Merkmalen wie Rasse oder Geschlecht beeinflusst werden. In der Zukunft hat die Diskriminierung das Potenzial, durch den Einsatz dieser Art von automatisierten Systemen eliminiert zu werden, was zu einer Verbesserung der branchenweiten DE&I-Geschäftsinitiativen führen wird. Schließlich werden künstliche Intelligenz-Modelle mit nicht voreingenommenen Ergebnissen die Produktivität verbessern und die Zeit, die zum Abschließen dieser Aufgaben benötigt wird, reduzieren. Allerdings haben einige Unternehmen ihre künstlichen Intelligenz-Programme aufgrund der voreingenommenen Lösungen der Technologie eingestellt.

Beispielsweise hat Amazon die Verwendung eines Einstellungsalgorithmus eingestellt, als es festgestellt wurde, dass der Algorithmus eine Vorliebe für Bewerber zeigte, die Wörter wie “ausgeführt” oder “erfasst” häufiger verwendeten, was in den Lebensläufen von Männern häufiger vorkam. Ein weiteres Beispiel für Voreingenommenheit stammt von Joy Buolamwini, einer der einflussreichsten Menschen im Bereich künstlicher Intelligenz im Jahr 2023 laut TIME, in Zusammenarbeit mit Timnit Gebru am MIT, die aufdeckte, dass Gesichtsanalysetechnologien höhere Fehlerraten bei der Bewertung von Minderheiten, insbesondere von Minderheitenfrauen, aufwiesen, möglicherweise aufgrund unzureichend repräsentativer Trainingsdaten.

In jüngster Zeit sind DNNs in Wissenschaft, Technik und Wirtschaft sowie in populären Anwendungen allgegenwärtig geworden, aber sie verlassen sich manchmal auf zweifelhafte Attribute, die Voreingenommenheit vermitteln können. Laut einer MIT-Studie haben Wissenschaftler in den letzten Jahren tiefere neuronale Netze entwickelt, die in der Lage sind, große Mengen an Eingaben, einschließlich Klängen und Bildern, zu analysieren. Diese Netze können gemeinsame Merkmale erkennen, was es ihnen ermöglicht, Zielwörter oder -objekte zu klassifizieren. Derzeit stehen diese Modelle an der Spitze des Feldes als primäre Modelle für die Nachbildung biologischer Sinnessysteme.

NTT Research Senior Scientist und Associate am Harvard University Center for Brain Science Hidenori Tanaka und drei andere Wissenschaftler schlugen vor, die Grenzen der naiven Feinabstimmung, der gängigen Methode zur Reduzierung der Fehler oder des “Verlusts” eines DNN, mit einem neuen Algorithmus zu überwinden, der die Abhängigkeit des Modells von voreingenommenen Attributen reduziert.

Sie untersuchten die Verlustlandschaften neuronaler Netze unter dem Aspekt der Modus-Konnektivität, der Beobachtung, dass Minimierer neuronaler Netze, die durch Training auf einem Datensatz erhalten werden, durch einfache Pfade mit geringem Verlust verbunden sind. Insbesondere stellten sie sich die Frage: Sind Minimierer, die sich auf unterschiedliche Mechanismen für ihre Vorhersagen verlassen, durch einfache Pfade mit geringem Verlust verbunden?

Sie entdeckten, dass die naive Feinabstimmung nicht in der Lage ist, den Entscheidungsmechanismus eines Modells grundlegend zu ändern, da sie eine Bewegung in ein anderes Tal der Verlustlandschaft erfordert. Stattdessen muss man das Modell über die Barrieren führen, die die “Senken” oder “Täler” des geringen Verlusts trennen. Die Autoren nennen diesen korrigierenden Algorithmus Connectivity-Based Fine-Tuning (CBFT).

Bevor diese Entwicklung stattfand, klassifizierte ein DNN, das Bilder wie ein Fisch (eine Illustration, die in dieser Studie verwendet wurde) klassifiziert, sowohl die Objektform als auch den Hintergrund als Eingabeparameter für die Vorhersage. Seine Verlust-Minimierungs-Pfade würden daher in mechanisch unterschiedlichen Modus operieren: einem, der sich auf das legitime Attribut der Form verlässt, und einem anderen, der sich auf das zweifelhafte Attribut der Hintergrundfarbe verlässt. Als solche würden diese Modi linear nicht verbunden sein oder einen einfachen Pfad mit geringem Verlust.

Das Forschungsteam versteht den mechanistischen Aspekt der Modus-Konnektivität, indem es zwei Sätze von Parametern in Betracht zieht, die den Verlust minimieren, indem es Hintergründe und Objektformen als Eingabe-Attribute für die Vorhersage verwendet. Und dann fragten sie sich, ob solche mechanisch unterschiedlichen Minimierer durch Pfade mit geringem Verlust in der Landschaft verbunden sind. Beeinflusst die Unterschiedlichkeit dieser Mechanismen die Einfachheit ihrer Konnektivitäts-Pfade? Können wir diese Konnektivität ausnutzen, um zwischen Minimierern zu wechseln, die unsere gewünschten Mechanismen verwenden?

Mit anderen Worten können tiefere neuronale Netze, je nachdem, was sie während des Trainings auf einem bestimmten Datensatz aufgenommen haben, sehr unterschiedlich reagieren, wenn sie auf einem anderen Datensatz getestet werden. Der Vorschlag des Teams reduzierte sich auf das Konzept der gemeinsamen Ähnlichkeiten. Es baut auf der vorherigen Idee der Modus-Konnektivität auf, aber mit einer Wendung – es berücksichtigt, wie ähnliche Mechanismen funktionieren. Ihre Forschung führte zu folgenden aufschlussreichen Entdeckungen:

• Minimierer, die unterschiedliche Mechanismen haben, können auf eine eher komplexe, nicht-lineare Weise verbunden sein
• wenn zwei Minimierer linear verbunden sind, hängt dies eng mit der Ähnlichkeit ihrer Modelle in Bezug auf Mechanismen zusammen
• eine einfache Feinabstimmung kann möglicherweise nicht ausreichen, um unerwünschte Merkmale zu entfernen, die während des früheren Trainings aufgenommen wurden
• wenn Sie Regionen finden, die linear nicht verbunden sind, können Sie effiziente Änderungen an den internen Abläufen eines Modells vornehmen.

Während diese Forschung ein bedeutender Schritt bei der Nutzung des vollen Potenzials von künstlicher Intelligenz ist, können die ethischen Bedenken im Zusammenhang mit künstlicher Intelligenz immer noch ein Aufwärtskampf sein. Technologen und Forscher arbeiten daran, andere ethische Schwächen in künstlicher Intelligenz und anderen großen Sprachmodellen wie Datenschutz, Autonomie und Haftung zu bekämpfen.

Künstliche Intelligenz kann verwendet werden, um große Mengen an persönlichen Daten zu sammeln und zu verarbeiten. Die unbefugte oder unethische Verwendung dieser Daten kann die Privatsphäre von Einzelpersonen gefährden, was zu Bedenken hinsichtlich Überwachung, Datenverletzungen und Identitätsdiebstahl führt. Künstliche Intelligenz kann auch eine Bedrohung darstellen, wenn es um die Haftung ihrer autonomen Anwendungen wie selbstfahrende Autos geht. Die Errichtung von Rechtsrahmen und ethischen Standards für Rechenschaftspflicht und Haftung wird in den kommenden Jahren unerlässlich sein.

Zusammenfassend lässt sich sagen, dass das schnelle Wachstum der generativen künstlichen Intelligenz-Technologie vielversprechende Entwicklungen für verschiedene Branchen, von Finanzen und Gesundheitswesen bis hin zu Verkehr, verspricht. Trotz dieser vielversprechenden Entwicklungen bleiben die ethischen Bedenken im Zusammenhang mit künstlicher Intelligenz erheblich. Wenn wir diese transformative Ära der künstlichen Intelligenz durchlaufen, ist es für Technologen, Forscher und politische Entscheidungsträger von entscheidender Bedeutung, zusammenzuarbeiten, um Rechtsrahmen und ethische Standards zu errichten, die den verantwortungsvollen und vorteilhaften Einsatz von künstlicher Intelligenz-Technologie in den kommenden Jahren sicherstellen. Wissenschaftler von NTT Research und der University of Michigan sind einen Schritt voraus, da sie einen Algorithmus vorgeschlagen haben, der möglicherweise Voreingenommenheit in künstlicher Intelligenz eliminieren kann.