Startups erstellen Tools, um künstliche Intelligenz zu überwachen und ethische Nutzung zu fördern

Im Laufe des letzten Jahres scheint es, dass immer mehr Aufmerksamkeit darauf gerichtet wird, sicherzustellen, dass künstliche Intelligenz auf ethische Weise eingesetzt wird. Google (GOOGL ) und Microsoft (MSFT ) haben kürzlich Investoren vor dem Missbrauch von Algorithmen oder schlecht konzipierten Algorithmen gewarnt, die ethische und rechtliche Risiken bergen. Währenddessen hat der Staat Kalifornien gerade ein Gesetz verabschiedet, das den Einsatz von Gesichtserkennungstechnologie durch kalifornische Strafverfolgungsbehörden verbietet.

Kürzlich haben Startups wie Arthur versucht, Tools zu entwickeln, die es KI-Ingenieuren ermöglichen, die Leistung ihrer maschinellen Lernmodelle zu quantifizieren und zu qualifizieren. Wie Wired berichtet, versucht Arthur, KI-Entwicklern ein Toolkit zu geben, das es ihnen erleichtert, Probleme bei der Entwicklung von Finanzanwendungen zu entdecken, wie z.B. das Aufdecken von Voreingenommenheit bei Investitions- oder Kreditentscheidungen.

Arthurs Bemühungen zielen darauf ab, das “Black-Box”-Problem der KI zu lösen. Das Black-Box-Problem der KI beschreibt, wie maschinelle Lernsysteme im Gegensatz zu traditionellem Code, der leicht von denen interpretiert werden kann, die wissen, wie man ihn liest, Merkmale auf Verhaltensweisen kartieren, ohne die Gründe für diese Verhaltensweisen offenzulegen. Mit anderen Worten, in einem Black-Box-System ist die genaue Implementierung des Algorithmus undurchsichtig.

Maschinelle Lernsysteme funktionieren, indem sie Muster aus Eingabedaten extrahieren und über diese Muster nachdenken. Dies geschieht, indem ein Computer im Wesentlichen seinen eigenen Code durch Manipulation bestimmter mathematischer Funktionen schreibt. Um dieses Problem zu lösen, benötigen Forscher und Ingenieure Tools, die die Beobachtung und Analyse des Verhaltens von maschineller Lernsoftware erleichtern. Startups wie Arthur erkennen die Schwierigkeit, dieses Problem zu lösen, und behaupten nicht, die optimalen Lösungen zu haben, aber sie hoffen, in diesem Bereich Fortschritte zu machen und das Öffnen der Black Box (BBOX.BO ) ein wenig einfacher zu machen. Es wird gehofft, dass wenn KI-Systeme leichter analysiert werden können, es auch einfacher wird, Probleme wie Voreingenommenheit zu korrigieren.

Große Unternehmen wie Facebook (META ) haben bereits einige Tools, um die inneren Abläufe von maschinellen Lernsystemen zu analysieren. Zum Beispiel hat Facebook ein Tool namens Fairness Flow, das darauf abzielt, sicherzustellen, dass die Werbeanzeigen, die Jobs empfehlen, Menschen aus allen unterschiedlichen Hintergründen ansprechen. Es ist jedoch wahrscheinlich, dass große KI-Teams nicht bereit sind, Zeit in die Erstellung solcher Tools zu investieren, und daher besteht eine Geschäftschance für Unternehmen, die Überwachungstools für den Einsatz durch KI-Unternehmen erstellen möchten.

Arthur konzentriert sich auf die Erstellung von Tools, die es Unternehmen ermöglichen, KI-Systeme nach dem Einsatz besser zu warten und zu überwachen. Arthurs Tools sollen es Unternehmen ermöglichen, zu sehen, wie sich die Leistung ihres Systems im Laufe der Zeit ändert, was es theoretisch ermöglichen würde, potenzielle Manifestationen von Voreingenommenheit zu erkennen. Wenn eine Kreditempfehlungssoftware eines Unternehmens bestimmte Gruppen von Kunden ausschließt, kann eine Flagge gesetzt werden, die anzeigt, dass das System überprüft werden muss, um sicherzustellen, dass es nicht aufgrund sensibler Attribute wie Rasse oder Geschlecht diskriminiert.

Arthur ist jedoch nicht das einzige Unternehmen, das Tools erstellt, die es KI-Unternehmen ermöglichen, die Leistung ihrer Algorithmen zu überprüfen. Viele Startups investieren in die Erstellung von Tools, um Voreingenommenheit zu bekämpfen und sicherzustellen, dass KI-Algorithmen auf ethische Weise eingesetzt werden. Weights & Biases ist ein weiteres Startup, das Tools erstellt, um maschinelle Lerningenieuren zu helfen, potenzielle Probleme mit ihrem Netzwerk zu analysieren. Toyota hat die von Weights & Biases erstellten Tools verwendet, um seine maschinellen Lerngeräte während der Ausbildung zu überwachen. Währenddessen arbeitet das Startup Fiddler an der Erstellung eines anderen Satzes von KI-Überwachungstools. IBM hat sogar einen eigenen Überwachungsdienst namens OpenScale erstellt.

Liz O’Sullivan, eine der Mitbegründerinnen von Arthur, erklärte, dass das Interesse an der Erstellung von Tools, um das Black-Box-Problem zu lösen, von einem wachsenden Bewusstsein für die Macht der KI getrieben wird.

„Die Menschen beginnen zu realisieren, wie mächtig diese Systeme sein können, und dass sie die Vorteile auf verantwortungsvolle Weise nutzen müssen“, sagte O’Sullivan.