KI kann spezifisches unerwünschtes Verhalten mit neuen Algorithmen vermeiden

Da künstliche Intelligenz-Algorithmen und -Systeme immer komplexer werden und größere Verantwortung übernehmen, wird es immer wichtiger, sicherzustellen, dass KI-Systeme gefährliches, unerwünschtes Verhalten vermeiden. Kürzlich hat ein Team von Forschern der University of Massachusetts Amherst und Stanford eine Studie veröffentlicht, die zeigt, wie spezifisches KI-Verhalten vermieden werden kann, indem eine Technik verwendet wird, die präzise mathematische Anweisungen liefert, die zur Anpassung des Verhaltens einer KI verwendet werden können.

Laut TechXplore basierte die Forschung auf der Annahme, dass ungerechtes/unsicheres Verhalten mit mathematischen Funktionen und Variablen definiert werden kann. Wenn dies zutrifft, sollte es möglich sein, Systeme zu trainieren, die diese spezifischen Verhaltensweisen vermeiden. Das Forschungsteam zielt darauf ab, ein Toolkit zu entwickeln, mit dem Benutzer der KI angeben können, welche Verhaltensweisen sie vermeiden möchten, und es ermöglicht KI-Ingenieuren, Systeme zuverlässig zu trainieren, die unerwünschtes Verhalten in realen Szenarien vermeiden.

Phillip Thomas, der erste Autor der Studie und Assistenzprofessor für Informatik an der University of Michigan Amherst, erklärte, dass das Forschungsteam zeigen möchte, dass die Designer von Machine-Learning-Algorithmen es den Nutzern von KI ermöglichen können, unerwünschtes Verhalten zu beschreiben und es sehr wahrscheinlich ist, dass das KI-System dieses Verhalten vermeidet.

Das Forschungsteam testete ihre Technik, indem sie sie auf ein häufiges Problem in der Datenwissenschaft anwendeten, den Geschlechterbias. Das Forschungsteam zielt darauf ab, die Algorithmen, die zur Vorhersage der GPA von College-Studenten verwendet werden, fairer zu machen, indem sie den Geschlechterbias reduzieren. Das Forschungsteam verwendete ein experimentelles Dataset und instruierte ihr KI-System, die Erstellung von Modellen zu vermeiden, die systematisch die GPA von Studenten eines Geschlechts unterschätzen oder überschätzen. Als Ergebnis der Anweisungen des Forschungsteams erstellte der Algorithmus ein Modell, das die GPA von Studenten besser vorhersagte und wesentlich weniger systemischen Geschlechterbias aufwies als bisherige Modelle. Bisherige Modelle zur Vorhersage der GPA litten unter Bias, da Modelle zur Reduzierung von Bias oft zu begrenzt waren, um nützlich zu sein, oder überhaupt keine Reduzierung von Bias verwendet wurde.

Das Forschungsteam entwickelte auch einen anderen Algorithmus. Dieser Algorithmus wurde in einer automatischen Insulinpumpe implementiert und sollte die Leistung und Sicherheit ausbalancieren. Automatische Insulinpumpen müssen entscheiden, wie groß die Insulindosis sein sollte, die einem Patienten verabreicht wird. Nach dem Essen sollte die Pumpe idealerweise eine Insulindosis abgeben, die gerade groß genug ist, um den Blutzuckerspiegel im Zaum zu halten. Die verabreichten Insulindosen dürfen weder zu groß noch zu klein sein.

Machine-Learning-Algorithmen sind bereits gut darin, Muster in der Reaktion eines Individuums auf Insulindosen zu erkennen, aber diese bestehenden Analysemethoden können es Ärzten nicht ermöglichen, Ergebnisse zu spezifizieren, die vermieden werden sollten, wie z.B. niedrige Blutzuckerschocks. Im Gegensatz dazu konnte das Forschungsteam eine Methode entwickeln, die trainiert werden kann, um Insulindosen zu verabreichen, die innerhalb der beiden Extreme bleiben und weder Unter- noch Überdosierung verursachen. Obwohl das System noch nicht bereit ist, an realen Patienten getestet zu werden, könnte ein komplexeres KI-System auf Basis dieses Ansatzes die Lebensqualität von Menschen mit Diabetes verbessern.

In der Forschungsstudie beziehen sich die Forscher auf den Algorithmus als “Seledonian”-Algorithmus. Dies bezieht sich auf die drei Gesetze der Robotik, die von dem Science-Fiction-Autor Isaac Asimov beschrieben wurden. Die Implikation ist, dass das KI-System “keinen Menschen verletzen oder durch Untätigkeit zulassen, dass ein Mensch zu Schaden kommt.” Das Forschungsteam hofft, dass ihr Rahmenwerk es KI-Forschern und -Ingenieuren ermöglichen wird, erklärte TechXplore:

“Wir möchten KI vorantreiben, die die Werte ihrer menschlichen Nutzer respektiert und die Vertrauenswürdigkeit rechtfertigt, die wir in autonome Systeme setzen.”