Die AI-Vorfall-Datenbank zielt darauf ab, AI-Algorithmen sicherer zu machen

Jedes ausreichend große System wird Fehler haben, und ein Teil der Korrektur dieser Fehler besteht darin, eine Datenbank über sie zu haben, die auf Auswirkungen und mögliche Ursachen analysiert werden kann. Ähnlich wie die FDA eine Datenbank für unerwünschte Medikationsreaktionen oder die National Transportation Safety Board eine Datenbank für Flugunfälle unterhält, ist die AI-Vorfall-Datenbank eine Datenbank, die auf die Erfassung von Fehlern von KI-Systemen und zur Unterstützung von KI-Forschern bei der Entwicklung neuer Methoden zur Vermeidung dieser Fehler abzielt. Die Ersteller der AI-Vorfall-Datenbank (AIID) hoffen, dass sie KI-Unternehmen bei der Entwicklung sichererer, ethischerer KI unterstützen wird.

Was ist die AIID?

Die AIID ist das Produkt der Partnership on AI (PAI)-Organisation. PAI wurde ursprünglich 2016 von Mitgliedern von KI-Forschungsteams in großen Technologieunternehmen wie Facebook (META ), Apple (AAPL ), Amazon (AMZN ), Google (GOOGL ), IBM und Microsoft gegründet. Seitdem hat die Organisation Mitglieder aus vielen anderen Organisationen, einschließlich verschiedener Non-Profit-Organisationen, rekrutiert. 2018 begann PAI mit der Entwicklung eines konsistenten Klassifizierungsstandards für KI-Fehler. Es gab jedoch keine Sammlung von KI-Vorfällen, auf denen dieser Klassifizierungsstandard basieren konnte. Aus diesem Grund erstellte PAI die AIID.

Laut TechTalks wurde das Format der AIID von der Struktur der Flugunfälle-Datenbank der National Transportation Safety Board inspiriert. Seitdem Berichte ab 1996 gesammelt wurden, hat das kommerzielle Luftverkehrssystem es geschafft, die Sicherheit der Luftfahrtindustrie durch Archivierung und Analyse von Vorfällen zu erhöhen. Die Hoffnung ist, dass ein ähnliches Repository von KI-Vorfällen KI-Systeme sicherer, ethischer und zuverlässiger machen kann. Die AIID wurde auch von der Common Vulnerabilities and Exposures-Datenbank inspiriert, die ein Repository von bemerkenswerten Software-Fehlern ist, die verschiedene Branchen und Disziplinen umfassen.

Sean McGregor ist der leitende technische Berater bei IBM für den Watson AI XPRIZE. McGregor ist auch für die Entwicklung der tatsächlichen Datenbank der AIID verantwortlich. McGregor erklärte, dass das Ziel der AIID letztendlich darin besteht, KI-Systeme daran zu hindern, Schaden anzurichten, oder zumindest die Schwere von unerwünschten Vorfällen zu verringern. Wie McGregor feststellte, sind maschinelle Lernsysteme wesentlich komplexer und unvorhersehbarer als herkömmliche Software-Systeme und können daher nicht auf die gleiche Weise getestet werden wie andere Software. Maschinelle Lernsysteme können ihr Verhalten auf unvorhersehbare Weise ändern. McGregor betont, dass die Fähigkeit von Deep-Learning-Systemen, zu lernen, bedeuten kann, dass “Fehlfunktionen wahrscheinlicher, komplizierter und gefährlicher” sind, wenn sie in eine unstrukturierte Welt eintreten.

Mehr als 1.000 KI-bezogene Vorfälle erfasst

Seit die AIID ursprünglich erstellt wurde, wurden mehr als 1.000 KI-bezogene Vorfälle in die Datenbank eingetragen. Von allen Vorfällen in der Datenbank waren Fragen der KI-Fairness der häufigste Typ von unerwünschten Vorfällen. Viele dieser Fairness-Vorfälle beinhalten die Verwendung von Gesichtserkennungsalgorithmen durch Regierungsbehörden. McGregor betont auch, dass es eine zunehmende Anzahl von Vorfällen gibt, die Robotik betreffen und in die Datenbank aufgenommen werden.

Besucher der Datenbank können Abfragen ausführen und die Datenbank nach Kriterien wie Schlüsselwörtern, Vorfall-ID, Quelle oder Autor durchsuchen. Zum Beispiel liefert eine Suche nach “Deepfake” 7 Berichte, während eine Suche nach “Roboter” 158 Berichte liefert.

Eine zentrale Datenbank für Vorfälle von KI-Fehlfunktionen und unerwartetem Verhalten kann Forschern, Ingenieuren und Ethikern helfen, die Entwicklung und Bereitstellung von KI-Systemen zu überwachen. Produktmanager in Technologieunternehmen könnten die AIID nutzen, um potenzielle Probleme zu erkennen, bevor sie KI-Empfehlungssysteme einsetzen, oder ein KI-Ingenieur könnte eine Vorstellung von potenziellen Vorurteilen erhalten, die korrigiert werden müssen, wenn er eine KI-Anwendung erstellt. Ebenso könnten Risikobeauftragte die Datenbank nutzen, um potenzielle negative Nebenwirkungen in Verbindung mit einem KI-Modell zu bestimmen und Maßnahmen zu planen, um potenzielle Schäden zu mindern.

Die Architektur der AIID ist so konzipiert, dass sie flexibel ist, was die Erstellung neuer Tools zur Abfrage der Datenbank und zur Extraktion von bedeutungsvollen Erkenntnissen ermöglicht. Die Partnership on AI und McGregor werden zusammenarbeiten, um eine flexible Taxonomie zu entwickeln, die zur Klassifizierung aller Arten von KI-Vorfällen verwendet werden kann. Das Team hofft, dass die flexible Taxonomie, sobald sie erstellt ist, mit einem automatisierten System kombiniert werden kann, das KI-Vorfälle automatisch erfassen wird.

„Die KI-Gemeinschaft hat begonnen, Vorfallaufzeichnungen miteinander zu teilen, um Änderungen an ihren Produkten, Kontrollverfahren und Forschungsprogrammen zu motivieren“, erklärte McGregor gegenüber TechTalks. „Die Website wurde im November öffentlich veröffentlicht, also fangen wir gerade an, die Vorteile des Systems zu realisieren.”