Reid Blackman, Ph.D, Gründer und CEO von Virtue Consultants – Interview-Serie

Reid Blackman ist der Gründer und CEO von Virtue Consultants. In dieser Funktion hat er mit Unternehmen zusammengearbeitet, um Ethik und ethische Risikominderung in die Unternehmenskultur und die Entwicklung, Bereitstellung und Beschaffung von Produkten der aufstrebenden Technologie zu integrieren. Er ist auch Senior Advisor bei Ernst & Young und Mitglied ihres Artificial Intelligence Advisory Board und Mitglied der IEEE-Ethically Aligned Design Initiative.

Reids Arbeit wurde in The Wall Street Journal und Dell Perspectives vorgestellt und er hat Beiträge für The Harvard Business Review, TechCrunch, VentureBeat und Risk & Compliance Magazine verfasst. Er wurde in zahlreichen Nachrichtenartikeln zitiert und spricht regelmäßig auf verschiedenen Veranstaltungen, darunter The World Economic Forum, SAP, Cannes Lions, Forbes, NYU Stern School of Business, Columbia University und AIG.

Sie waren von 2009 bis 2018 Professor für Philosophie an der Colgate University. Wann begannen Sie, AI-Ethik in Ihre Kurse einzubauen?

Ich habe oft einen Kurs über Sozial- und Politische Philosophie unterrichtet, in dem ich Marx behandelt habe. Einer von Marx’ zentralen Behauptungen ist, dass der Kapitalismus letztendlich dem Kommunismus weichen wird, aufgrund einer massiven Zunahme der “Produktionsmittel”. Mit anderen Worten: Der Kapitalismus treibt immer größere Effizienz im Namen des Wettbewerbs und der Öffnung neuer Märkte voran, was zu einer Zunahme der Schaffung von Technologien führt, die immer mehr in immer kürzerer Zeit produzieren können. Marx hat auch vorhergesagt, dass dies immer mehr Geld in die Hände weniger Menschen legen und immer mehr Menschen in die Armut treiben wird, was letztendlich zu einer Revolution der wachsenden Zahl der verarmten Massen führen wird. All dies führt zu einer Diskussion über die Ethik der Technologie, die den Bedarf an menschlicher Arbeit überflüssig macht, was ein zentrales Element der AI-Ethik ist.

Kleine Nebengeschichte, wenn Sie interessiert sind: Im Jahr 2002 war ich als Doktorand ein Seminar über Marx bei Northwestern University. Irgendwann hob ein Student die Hand und sagte: “Schließlich werden wir keine Menschen mehr benötigen, um irgendetwas zu tun.” Die Klasse war verwirrt. Ich war verwirrt. Also sagte ich: “Nun, wer wird dann die Arbeit tun?” Er antwortete auf eine sehr sachliche Weise: “Roboter.” Die Klasse brach in Gelächter aus. Ich unterdrückte mein eigenes Lachen. Aber es ist ziemlich offensichtlich, wer das letzte Lachen hatte.

Im Jahr 2018 gründeten Sie Virtue Consultants, eine Ethikberatung, die Daten- und AI-Führungskräfte befähigt, die ethischen Risiken ihrer Produkte zu identifizieren und zu mindern. Was inspirierte Sie, diese unternehmerische Reise zu beginnen?

Eifersucht. Nun, sort of. Ich gründete ein Feuerwerks-Großhandelsunternehmen, als ich Doktorand war, glaube ich um 2003 oder 2004. Das lief besser als erwartet, und das Unternehmen existiert noch heute, obwohl ich jetzt nur noch als Berater tätig bin und nicht mehr den täglichen Betrieb verantworte. Jedenfalls ist es relevant, weil es erklärt, wie ich zum Mentor für Start-ups im Colgate-Unternehmensprogramm (genannt TIA, Thought Into Action, geleitet von zwei großartigen VCs, Andy Greenfield und Wills Hapworth, die TIA Ventures leiten) wurde. Als Mentor sah ich Studenten, die an aufregenden Projekten arbeiteten, während sie versuchten, herauszufinden, wie sie ihre for-profit- oder Non-Profit-Start-ups aufbauen und skalieren konnten, und ich dachte: “Ich will das auch!” Aber was sollte mein neues Unternehmen sein? Es musste mit meiner Liebe zur Philosophie und Ethik zu tun haben, und das Erste, was Sinn machte, war eine Ethikberatung. Ich sah nicht den Markt für solche Dienstleistungen, weil es keinen gab, und so wartete ich. Und dann kamen Cambridge Analytica, BLM und #MeToo in die Schlagzeilen, und plötzlich gab es ein größeres Bewusstsein für die Notwendigkeit.

Wie wichtig ist es für Unternehmen, eine AI-Ethik-Erklärung einzuführen?

Eine AI-Ethik-Erklärung ist nicht unbedingt erforderlich, aber sie ist ein sehr nützliches Werkzeug, um Ziele zu setzen. Wenn Sie ein AI-Ethik-Programm in Ihr Unternehmen einführen, möchten Sie ethische, reputationsbezogene, regulatorische und rechtliche Risiken identifizieren und mindern. Das ist seine Hauptfunktion. Eine Ethik-Erklärung hilft dabei, zu artikulieren, wie Dinge aussehen werden, wenn Sie die Infrastruktur, Prozesse und Praktiken haben, um diese Funktion zu erfüllen. Insofern eine Strategie Ziele benötigt – was sie immer tut – ist eine AI-Ethik-Erklärung eine gute Möglichkeit, diese Ziele zu artikulieren, obwohl es nicht der einzige Weg ist.

Wie können Unternehmen sicherstellen, dass die Ethik-Erklärung in Prozesse und Praktiken umgesetzt wird?

Eine Ethik-Erklärung ist nur ein kleiner Schritt in die richtige Richtung. Wenn Sie weitermachen möchten, ist der nächste logische Schritt, eine Bewertung durchzuführen, um zu sehen, wo Sie im Verhältnis zu den in der Erklärung formulierten Zielen stehen. Sobald Sie wissen, wo die größten, riskantesten Lücken sind – also, wo Sie am meisten Gefahr laufen, Ihre Ziele zu verfehlen – können Sie beginnen, Lösungen zu entwickeln, um diese Lücken zu schließen. Vielleicht ist es ein Ethik-Komitee. Vielleicht ist es ein Due-Diligence-Prozess während der Produktentwicklung. Vielleicht ist es, besser darin zu werden, wie Sie mit Daten in nicht-produktbezogenen Abteilungen wie Marketing und HR umgehen. Wahrscheinlich ist es all dies und mehr.

Was sind einige Lösungen, die Unternehmen umsetzen sollten, um Verzerrungen in den tatsächlichen AI-Algorithmus zu vermeiden?

Es gibt eine Menge technischer Werkzeuge, um Verzerrungen zu identifizieren, aber sie sind begrenzt. Sie ermöglichen es Ihnen, die Ausgaben Ihres Modells mit den Dutzenden quantitativer Metriken zu vergleichen, die in der akademischen ML-Ethik-Literatur angeboten werden, aber Sie müssen vorsichtig sein, denn diese Metriken sind nicht kompatibel. Also muss eine substantielle, ethische Entscheidung getroffen werden: Welche, wenn überhaupt, dieser Metriken ist in diesem Kontext angemessen?

Abgesehen von der Verwendung eines solchen Werkzeugs, ergänzt durch eine verantwortungsvolle Art und Weise, diese Frage zu beantworten, sollten Produktteams überlegen, wo Verzerrungen eindringen können, bevor sie mit dem Bau beginnen. Wie kann es in den Trainings-Datensätzen enthalten oder reflektiert werden? Wie bei der Bestimmung der Ziel-Funktion? Was bei der Bestimmung der Schwelle? Es gibt viele Orte, an denen Verzerrungen eindringen können. Voraussicht über diese möglichen Orte in Ihrem aktuellen Projekt und wie sie dort eindringen können, sind wesentlich, um Verzerrungen zu identifizieren und zu mindern.

AI-Unternehmen sind berüchtigt dafür, von weißen Männern dominiert zu werden, die möglicherweise unbeabsichtigt Verzerrungen in das AI-System programmieren. Um dies zu vermeiden, welche Arten von Eigenschaften sollten Personalabteilungen suchen?

Ich bin für größere Chancen und größere Vielfalt unter Ingenieuren und Produktteams allgemein. Das gesagt, ich denke, dass dies die Dinge durch die falsche Linse betrachtet. Das primäre Problem, wenn es um voreingenommene Algorithmen geht, ist nicht, dass die Verzerrungen eines weißen Mannes zu voreingenommenem Code führen. Es ist, dass die Trainings-Datensätze voreingenommen sind. Tatsächlich kam eine kürzlich veröffentlichte Studie der Columbia-Universität zu dem Schluss, dass “[p]rogrammierer, die technische Anleitung verstehen, erfolgreich Verzerrungen reduzieren” und dass “[a]lgorithmische Vorhersagen von weiblichen und Minderheiten-AI-Programmierern nicht weniger algorithmische Verzerrungen oder Diskriminierung aufweisen”. Also, während HR auf Vielfaltsprobleme achten sollte, ist es weit davon entfernt, klar zu sein, dass Strategien zur Reduzierung voreingenommener AI-Ausgaben hauptsächlich – oder exklusiv – auf Einstellungsentscheidungen in Bezug auf Vielfaltsbemühungen fokussieren sollten.

Könnten Sie erläutern, was ethische Risiko-Due-Diligence ist und warum Unternehmen sie umsetzen sollten?

Eine ethische Risiko-Due-Diligence ist der Versuch, die verschiedenen ethischen Risiken zu identifizieren, die mit dem Produkt, das Sie erstellen, realisiert werden können, einschließlich dessen, wie es bereitgestellt wird, wie es verwendet und missbraucht werden kann usw. Sie möchten sich auf die Merkmale des Produkts konzentrieren – sowohl die, die es hat, als auch die, die es nicht hat – und die Weise, wie diese zu ethischen Fehlern führen können, wenn sie in verschiedenen Kontexten bereitgestellt werden. Wenn sie gut durchgeführt wird, ist es eine systematische und umfassende Untersuchung. Natürlich können Sie versuchen, Ihr Bestes zu tun, um um die Ecke zu schauen, aber es gibt möglicherweise einige Dinge, die Sie übersehen, was der Grund ist, warum kontinuierliche Überwachung wichtig ist.

Was den Grund betrifft, warum Unternehmen sie umsetzen sollten: Sie müssen nur die ethischen, reputationsbezogenen, regulatorischen und rechtlichen Risiken berücksichtigen, die mit der Nichtumsetzung verbunden sind. Denken Sie an Optum in den Nachrichten und unter regulatorischer Untersuchung wegen eines (angeblich) voreingenommenen Algorithmus, der Gesundheitsdienstleistern empfahl, weißen Patienten mehr Aufmerksamkeit zu widmen als schwarzen Patienten. Oder an Goldman Sachs, das unter Untersuchung steht, weil die Kreditlimits für die Apple Card (angeblich) Frauen diskriminieren. Oder an Amazon’s Einstellungs-Software, die wegen Bedenken hinsichtlich Verzerrungen vor der Bereitstellung verworfen wurde. Oder an IBM, das von Los Angeles wegen (angeblich) unrechtmäßiger Aneignung von Daten verklagt wird, die von seiner Wetter-App gesammelt wurden. Oder Facebook….

Gibt es noch etwas, das Sie über Virtue Consultants teilen möchten?

Virtue hilft leitenden Angestellten, AI-Ethik in die Praxis umzusetzen, sei es, indem sie Menschen über das Thema aufklären und weiterbilden, eine AI-Ethik-Erklärung schreiben, ein handhabbares ethisches Risikoframework erstellen und umsetzen oder einfach als Berater für AI-Ethik fungieren. Wenn das interessant klingt, sollten die Leute vorbeikommen und Hallo sagen.

Vielen Dank für das großartige Interview. Leser, die mehr über Reid erfahren möchten, sollten Reid Blackman besuchen oder Virtue Consultants besuchen.