Startup Unbiased zielt darauf ab, die Transparenz in Daten durch Blockchain zu erhöhen und Datenbias zu bekämpfen

Die Auswirkungen von Datenbias in künstlicher Intelligenz sind gut dokumentiert, und da künstliche Intelligenz und Machine-Learning-Algorithmen immer weiter in jeden Winkel der Gesellschaft eindringen, suchen Unternehmen der Branche nach neuen Möglichkeiten, um sicherzustellen, dass die von ihnen entwickelten Algorithmen nicht von menschlichen Vorurteilen beeinflusst werden. Ein neuer Spieler im Bereich künstlicher Intelligenz und Machine Learning, der darauf abzielt, Datenbias zu reduzieren, ist das Startup Unbiased. Unbiased hat einen neuen Datenmarkt auf der aktiven Blockchain-Plattform Telos gestartet, um Kunden dezentralisierte, datenschutzfreundliche Tools und Anwendungen für Data Science und künstliche Intelligenz anzubieten.

Der globale Markt für künstliche Intelligenz wird voraussichtlich in den nächsten zehn Jahren weiterhin rapide wachsen und bis 2027 etwa 266 Milliarden Dollar erreichen. Innerhalb der nächsten vier Jahre wird das weltweite Ausgaben für künstliche Intelligenz-Systeme und zugehörige Komponenten voraussichtlich verdoppelt und bis 2024 etwa 110 Milliarden Dollar erreichen, laut IDC. Die zunehmende Verbreitung von künstlichen Intelligenz-Algorithmen in immer mehr Branchen hat zu wachsenden Bedenken hinsichtlich Transparenz, Datenschutz, Fairness und Repräsentativität von künstlichen Intelligenz-Systemen geführt.

Datenbias durch Transparenz reduzieren

Laut einem jüngsten Bericht des CapGemini Research Institute, betitelt “Künstliche Intelligenz und das ethische Dilemma: Wie Organisationen ethisch robuste künstliche Intelligenz-Systeme aufbauen und Vertrauen gewinnen können”, ist der ethische Einsatz von künstlicher Intelligenz zu einem großen Anliegen für IT-Führungskräfte geworden, da die Mehrheit der IT-Führungskräfte nun Bedenken hinsichtlich des potenziellen Missbrauchs von künstlichen Intelligenz-Systemen äußert. Etwa 9 von 10 IT-Organisationen gaben an, dass sie sich mindestens eines Vorfalls bewusst seien, bei dem ethische Probleme durch die Anwendung eines künstlichen Intelligenz-Systems entstanden seien. Etwa zwei Drittel der IT-Führungskräfte gaben an, dass sie sich potenzieller diskriminierender Vorurteile in künstlichen Intelligenz-Systemen bewusst seien, und etwa die Hälfte aller IT-Organisationen verfügt über eine ethische Charta, die die Entwicklung von künstlicher Intelligenz regelt, im Gegensatz zu nur fünf Prozent der IT-Unternehmen im Jahr 2019.

Während die Forschung darüber, wie künstliche Intelligenz-Algorithmen fairer gemacht werden können, weitergeht, konzentrieren sich viele Ethiker und künstliche Intelligenz-Experten auf die Daten, die zur Ausbildung von künstlicher Intelligenz verwendet werden. Da künstliche Intelligenz-Algorithmen immer verbreiteter und standardisierter werden, verschiebt sich der Fokus auf die Beschaffung der Daten, die zur Ausbildung von Modellen benötigt werden.

Es gibt zahlreiche Möglichkeiten, Datenbias in künstlichen Intelligenz-Algorithmen zu reduzieren. Einige Techniken beinhalten die Anpassung des Modells oder der Trainingsdaten, während das Modell trainiert wird. Diese Techniken sind “in-processing”-Bias-Korrekturtechniken. Dazu gehören die Verwendung von adversarialen Trainingsmethoden, bei denen eine sensible Variable (wie Geschlecht oder Rasse) kontrolliert wird, indem die Fähigkeit des Modells, Vorhersagen auf der Grundlage dieser Variable zu treffen, bestraft wird, während gleichzeitig versucht wird, den Fehler des Modells zu minimieren. Im Gegensatz dazu ist die Konzentration auf die Entfernung von Bias aus dem Datensatz eine Preprocessing-Technik. Trainingsdaten für Machine-Learning-Modelle werden oft manuell beschriftet, und die Anwendung von Blockchain kann Unternehmen dabei helfen, den Beschriftungsprozess ihrer Daten zu verfolgen, um sicherzustellen, dass ihre Datensätze repräsentativ sind.

Unbiased setzt auf Blockchain, um eine Kultur der Transparenz innerhalb von Datensätzen und Datenmärkten zu fördern. Die meisten Tools, die zur Generierung von Datensätzen für künstliche Intelligenz-Systeme und Machine-Learning-Algorithmen verwendet werden, sind zentralisiert und daher oft nicht transparent. Unbiased zielt darauf ab, die dezentralisierte Natur von Blockchain zu nutzen, um Aktionen auf ihrem Datenmarkt zu verfolgen, einschließlich des Datenaustauschs, der Zuweisung von Aufgaben und Projekten sowie der Beiträge von Arbeitern. Das Ziel ist, dass die dezentralisierte Natur der Telos-Blockchain Transparenz ermöglicht und es Benutzern ermöglicht, kritische Informationen über die Natur ihrer Data-Science zu erhalten. Benutzer können ihre Datensätze validieren und feststellen, ob Annotationen unter Berücksichtigung bestimmter ethischer Prinzipien wie Fairness und Datenschutz durchgeführt wurden.

Laut dem Chefarchitekten der Telos-Blockchain kann die Kreuzung von künstlicher Intelligenz/Machine Learning mit Blockchain zu transformierenden neuen Methoden der Arbeit mit Daten führen. Wie Horn von AIthority zitiert wurde:

„Unbiased wird diesen Branchen zeigen, wie die Aufzeichnung von Daten auf einer hochleistungsfähigen, gebührenfreien Blockchain wie Telos Transparenz, Unveränderlichkeit, Mikrozahlungen und Governance in ihre Produkte für den Nutzen aller Beteiligten einbringen kann.“

Über die Transparenz von Trainingsdaten hinaus haben einige Wissenschaftler und Forscher mehr Transparenz in Algorithmen, Modellen und Code gefordert. Ein internationales Team von Wissenschaftlern forderte, dass wissenschaftliche Zeitschriften Computerwissenschaftler zu höheren Transparenzstandards verpflichten. Die Forscher argumentierten, dass eine größere Transparenz über künstliche Intelligenz-Modelle und Code nicht nur die Reproduzierbarkeit von Studien unterstützen, sondern auch die Zusammenarbeit zwischen Forschungsgruppen fördern würde. Viele wissenschaftliche Studien können nicht reproduziert werden, und dies ist ein noch größeres Problem für künstliche Intelligenz-Studien, die wichtige Materialien auslassen. In der Zukunft könnte Blockchain sogar zur Verbesserung der Verfolgung und Bewertung von Forschung im Bereich künstliche Intelligenz eingesetzt werden.