Alyssa Simpson Rochwerger, Co-Autorin von Real World AI – Interview-Serie

Alyssa Rochwerger ist eine kundenorientierte Produktleiterin, die sich darauf konzentriert, Produkte zu entwickeln, die schwierige Probleme für reale Menschen lösen. Sie hatte zahlreiche Produktleitungspositionen in Unternehmen für maschinelles Lernen inne. Sie war VP of Product bei Figure Eight (übernommen von Appen), VP of AI und Data bei Appen und Director of Product bei IBM Watson. Sie hat den Bereich recently verlassen, um ihrem Traum nachzugehen, Technologie zu nutzen, um die Gesundheitsversorgung zu verbessern. Derzeit ist sie Director of Product bei Blue Shield of California, wo sie von vielen Daten, schwierigen Problemen und nichts als Möglichkeiten, um einen positiven Einfluss auszuüben, umgeben ist.

Wir diskutieren ihr neues Buch: The Real World of AI: A Practical Guide for Responsible Machine Learning

In der Einleitung des Buches beschreiben Sie, wie Sie als IBM-Produktmanager zum ersten Mal auf ein Problem mit einem KI-System stießen, das voreingenommene Informationen lieferte, als ein Bild einer Person im Rollstuhl als “Verlierer” klassifiziert wurde. Wie sehr war dies für Sie ein Weckruf hinsichtlich der Voreingenommenheit von KI?

Ich würde es nicht so sehr als Weckruf bezeichnen, sondern eher als meine erste Erfahrung beim Bau eines maschinellen Lernprodukts (ich war erst ein paar Monate in der Position) und ich wusste noch nicht genug über diese Technologie, um entsprechende Vorkehrungen zu treffen und unerwünschte Voreingenommenheit zu vermeiden. Es war eine aufschlussreiche Erfahrung, die meine Aufmerksamkeit auf dieses Problem lenkte – und mich darauf aufmerksam machte, wie leicht es ist, systemische gesellschaftliche Voreingenommenheit in maschinelle Lernprodukte zu kodieren, wenn das Team dies nicht aktiv vermeidet. Ich war froh, in einer Institution zu arbeiten, die sich sehr um Chancengleichheit bemüht und Ressourcen bereitstellt, um dies zu vermeiden.

Was haben Sie persönlich gelernt, als Sie dieses Buch recherchierten und schrieben?

Persönlich musste ich mich mit der Herausforderung auseinandersetzen, Zeit für das Schreiben dieses Buches zu finden, während ich den Job wechselte, ein 1-jähriges Kind hatte und gleichzeitig die COVID-Pandemie bewältigte. Ich lernte, wie ich Zeit finden kann, um dies zu priorisieren, und wie ich um Hilfe bei meiner Familie bitten kann, um mir die Zeit zu geben, die ich für das Schreiben des Buches benötigte.

Professionell war es wunderbar, so viele Teilnehmer zu haben, die ihre Geschichten mit uns teilten, um sie zu veröffentlichen. Maschinelles Lernen-Profis sind in meiner Erfahrung eine sehr nachdenkliche und großzügige Gruppe von Menschen – bereit, anderen zu helfen und Fehler und Erfahrungen zu teilen. Leider konnten viele dieser Lektionen-Geschichten nicht in dieses Buch aufgenommen werden oder mussten stark anonymisiert werden, weil es Bedenken gab, hintergrundinformationen zu veröffentlichen, die ein Unternehmen oder eine Person in einem schlechten Licht darstellen könnten. Obwohl dies sicherlich normal ist, bedauere ich es persönlich – ich bin ein großer Befürworter des Lernens und Wachsens aus vergangenen Erfahrungen und Fehlern, wenn sie anderen helfen können.

Was sind einige der wichtigsten Lektionen, die Sie hoffen, die Menschen aus dem Lesen dieses Buches ziehen werden?

Ich hoffe, die Menschen werden lernen, dass maschinelles Lernen nicht super kompliziert oder schwer zu verstehen ist. Dass es eine leistungsstarke, aber manchmal auch zerbrechliche Technologie ist, die Anleitung und Struktur benötigt, um schwierige Probleme zu lösen. Und dass der verantwortungsvolle, ethische Einsatz dieser Technologie entscheidend für den Erfolg und die Reife ist – und dass das frühzeitige Bekämpfen schädlicher Voreingenommenheit der Schlüssel zum Geschäftserfolg ist.

Ein Beispiel für Geschlechtervoreingenommenheit in KI, das im Buch dargestellt wird, ist die Apple-Kreditkarte, die Frauen niedrigere Kreditlimits als Männern zuweist. Dies ist ein Beispiel dafür, wie das Auslassen von Geschlecht als Option es nicht ermöglicht, andere Variablen zu berücksichtigen, die als Proxy für Geschlecht dienen können. Das Beispiel zeigt, dass ohne die “Geschlecht”-Eingabe es unmöglich war, zu erkennen, dass das Ergebnis voreingenommen war, bis nach der Veröffentlichung des Endprodukts. Welche Arten von Daten-Eingaben glauben Sie, sollten nie ausgelassen werden, um Voreingenommenheit gegenüber Geschlecht oder Minderheiten zu vermeiden?

Es gibt keine festen Regeln – jeder Datensatz, jeder Anwendungsfall und jede Situation ist anders. Ich würde den Praktikern empfehlen, sich mit den Details und Nuancen des Problems auseinanderzusetzen, das ein maschinelles Lernalgorithmus lösen soll – und welche schädliche Voreingenommenheit in diese Entscheidung kodiert werden könnte.

Das Buch beschreibt, wie eine primäre Verantwortung bei der Kommunikation mit dem KI-Team darin besteht, die Ergebnisse genau zu definieren, die für das Geschäft wichtig sind. Wie oft schaffen es Unternehmen Ihrer Meinung nach nicht, diese Aufgabe zu erfüllen?

Ich würde sagen, dass in meiner Erfahrung die meisten Unternehmen die Ergebnisse nicht oder nur auf einer lockeren oder hohen Ebene definieren. Sich mit den Details über die spezifischen Ergebnisse auseinanderzusetzen, ist eine einfache Möglichkeit, das Team von Anfang an auf Erfolg zu programmieren.

Das Buch spricht über die Wichtigkeit, zu erkennen, dass ein KI-System nicht ein “Set it and forget it”-System ist. Können Sie dies kurz erläutern?

Das ist der klassische Fehler, den die meisten Unternehmen machen, wenn sie ein neues ML-System in die Produktion bringen. Die Realität ändert sich – die Zeit vergeht, was gestern (die Trainingsdaten) wahr war, muss nicht morgen wahr sein. Es hängt von den Umständen ab, aber in den meisten Fällen ist es wichtig, lernen und anpassen zu können und auf der Grundlage aktuellerer Informationen bessere Entscheidungen zu treffen.

Maschinelles Lernen-basierte Produkte sind im Wesentlichen Entscheidungsträger. Um dies mit einem menschlichen Beispiel zu vergleichen – es ist wie ein Schiedsrichter in einem hochkarätigen Fußballspiel. Viele Male, wenn es ein gut ausgebildeter Schiedsrichter mit Erfahrung ist, trifft der Schiedsrichter eine gute Entscheidung und das Spiel geht weiter – aber manchmal trifft der Schiedsrichter eine schlechte Entscheidung oder ist sich nicht sicher, was zu entscheiden ist – und muss zurückgehen und das Video überprüfen – und ein paar andere Leute fragen, um eine Entscheidung über einen bestimmten Spielzug zu treffen. Ähnlich benötigen ML-Produkte Feedback, Schulung und manchmal sind sie nicht sicher. Sie benötigen Backup-Optionen, auf die sie zurückgreifen können, sowie neue Informationen, um aus ihnen zu lernen und sich über die Zeit zu verbessern. Ein guter Schiedsrichter wird über die Zeit lernen und besser werden, Urteile zu fällen.

Können Sie die Wichtigkeit eines cross-funktionellen Teams betonen, das in der Lage ist, zu erkennen, welche Probleme am besten mit KI gelöst werden können?

Maschinelles Lernen-Technologie ist normalerweise für sehr schwierige, spezifische Probleme geeignet, die nicht mit anderen Ansätzen gelöst werden können. Jedes schwierige Problem erfordert ein Team. Wenn Unternehmen neu in KI sind, gibt es oft eine falsche Erzählung, dass ein einzelner maschinelles Lernen-Wissenschaftler oder sogar ein maschinelles Lernen-Team das Problem alleine lösen kann. Ich habe nie gefunden, dass dies der Fall ist. Es erfordert ein Team mit unterschiedlichen Hintergründen und Ansätzen, um ein schwieriges Problem zu lösen – und sicherlich, um maschinelles Lernen-Technologie erfolgreich in die Produktion zu bringen.

Vielen Dank für das großartige Interview, für Leser (und insbesondere Geschäftsführer), die mehr erfahren möchten, empfehle ich, das Buch The Real World of AI: A Practical Guide for Responsible Machine Learning zu lesen.