Andrew Pery, Ethics Evangelist, ABBYY – Interview-Serie

Andrew Pery ist der Ethics Evangelist bei ABBYY, einem Unternehmen für digitale Intelligenz. Sie ermöglichen es Organisationen, wertvolle Einblicke in ihre Betriebsabläufe zu erhalten, die eine wahre Geschäftstransformation ermöglichen.

ABBYY hat kürzlich eine Globale Initiative zur Förderung der Entwicklung von vertrauenswürdiger künstlicher Intelligenz gestartet. Wir haben Andrew Fragen zu Ethik in der künstlichen Intelligenz, Missbrauch von künstlicher Intelligenz und dazu gestellt, was die künstliche Intelligenz-Branche gegen diese Bedenken unternehmen kann.

Was hat Ihr Interesse an der Ethik in der künstlichen Intelligenz zunächst geweckt?

Mein Interesse an der Ethik in der künstlichen Intelligenz wurde durch eine tiefe Neugier auf die Schnittstelle zwischen Recht und künstlicher Intelligenz-Technologie geweckt. Ich begann meine Karriere im Strafrechtssystem, indem ich bedürftige Angeklagte vertrat, die sich keine rechtlichen Dienstleistungen leisten konnten. Dann wechselte ich in die Technologie und konzentrierte mich auf die Anwendung von fortschrittlicher Suche und künstlicher Intelligenz in der Rechtspraxis. Als zertifizierter Datenschutzexperte bin ich besonders leidenschaftlich für Datenschutzrecht und die ordnungsgemäße Verwendung von künstlicher Intelligenz-Technologie, die mit Datenschutzrechten übereinstimmt.

Facial-Recognition-Technologie wird oft von Autoritäten, einschließlich der US-Regierung, missbraucht. Wie groß sollte diese gesellschaftliche Sorge sein?

Die Auswirkungen von Facial-Recognition-Technologie sollten eine erhebliche gesellschaftliche Sorge sein, da diese Technologie viele grundlegende Rechte beeinträchtigen kann, einschließlich wirtschaftlicher, sozialer und sicherheitsrelevanter Rechte.

Es gibt klare und überzeugende Beweise dafür, dass Facial-Recognition-Algorithmen unzuverlässig sind. Eine Studie des NIST über Facial-Recognition-Algorithmen ergab, dass Afroamerikaner bis zu 100-mal häufiger falsch identifiziert wurden. Eine ähnliche Studie der Georgetown Law School ergab, dass Facial-Recognition-Algorithmen, die auf Fahndungsfotos basieren, einen hohen Prozentsatz an Falschpositiven bei afroamerikanischen Personen erzeugten, und eine 2018-MIT-Studie über Amazon-Facial-Recognition-Software ergab, dass während weiße Männer zu 99 % korrekt identifiziert wurden, dunkelhäutige Personen bis zu 35 % Falschpositiven erzeugten.

Es ist aus diesen Gründen, dass Regulierungsbehörden beginnen, Schritte zu unternehmen, um die Verwendung von Facial-Recognition-Technologien, insbesondere im Kontext von Überwachung und Profiling, zu verbieten. Zum Beispiel verabschiedete der kalifornische Senat ein landesweites Verbot der Verwendung von Facial-Recognition-Technologie und anderen biometrischen Überwachungsmethoden.

Es gibt auch einen Trend in der Technologiebranche, sich von der Vermarktung von Facial-Recognition-Software zurückzuziehen. IBM kündigte an, dass es den Verkauf von Facial-Recognition-Software einstellen wird, da dies grundlegende Menschenrechte und Freiheiten verletzt. Microsoft (MSFT ) kündigte eine ähnliche Entscheidung an, den Verkauf seiner Facial-Recognition-Technologie einzustellen, da dies ebenfalls grundlegende Menschenrechte verletzt.

Die COMPAS-Software, die von US-Gerichten für die Risikobewertung von Straftätern verwendet wird, hat sichtbare Minderheitenstraftäter fälschlicherweise als eher wiederholt straffällig eingestuft als weiße Straftäter. Sollte die Verwendung von künstlicher Intelligenz in Gerichten überhaupt eine Option sein?

Studien über COMPAS ergaben, dass es nicht besser darin ist, Verbrechen vorherzusagen, als zufällig ausgewählte Personen. Während Predictive-Analytics in einem kommerziellen Kontext einen erheblichen Wert liefert, hat es sich als ungerecht in seiner Anwendung im Strafrechtssystem erwiesen. Dies ist in einem Bericht der Pro Publica zu sehen, der ergab, dass COMPAS, die beliebteste Software, die von US-Gerichten für die Risikobewertung von Straftätern verwendet wird, sichtbare Minderheitenstraftäter fälschlicherweise als eher wiederholt straffällig eingestuft hat, doppelt so oft wie weiße Straftäter.

Diese Ungerechtigkeiten veranlassten den damaligen Generalstaatsanwalt Eric Holder, die Fairness und äußerte Bedenken hinsichtlich der potenziellen Ungerechtigkeiten, die durch die Anwendung von künstlicher Intelligenz-Technologie zur Vorhersage von Rückfallraten bei Straftätern entstehen könnten.

Wie kann die Gesellschaft vermeiden, negative Vorurteile in künstliche Intelligenz-Systeme zu programmieren?

Erstens muss anerkannt werden, dass künstliche Intelligenz die Neigung haben kann, ungewollte Vorurteile zu produzieren, die als unbewusste Vorurteile bezeichnet werden. Die Minderung ihrer negativen Auswirkungen erfordert einen umfassenden Ansatz, der die Entwicklung ethischer Richtlinien für künstliche Intelligenz umfasst, wie sie vom OECD-Ethikrahmen vorgeschlagen werden. Dies basiert auf sieben grundlegenden Prinzipien, einschließlich menschlicher Handlungsfähigkeit und Aufsicht, technischer Robustheit und Sicherheit, Datenschutz und Governance, Transparenz, Vielfalt und Nichtdiskriminierung, gesellschaftliches Wohlergehen und Rechenschaftspflicht.

Als zweites ist die Einhaltung von Rechtsrahmen, die den Schutz vor automatisiertem Profiling gewährleisten, von entscheidender Bedeutung. Zum Beispiel hat die EU eine lange Tradition des Respekts und Schutzes von Datenschutzrechten, mit der jüngsten und mächtigsten Ausprägung in der Datenschutz-Grundverordnung (DSGVO), die speziell den Schutz vor automatisierter Entscheidungsfindung gewährleistet.

Als drittes muss es eine Branchenverantwortung für die Entwicklung und den Einsatz von künstlicher Intelligenz-Technologie geben. Es gibt positive Entwicklungen in dieser Hinsicht. Zum Beispiel ist die Partnership on AI eine Organisation mit über 80 Mitgliedern in 13 Ländern, die sich der Forschung und Diskussion über wichtige künstliche Intelligenz-Themen widmet.

Letztlich sollten Technologieunternehmen eine Verpflichtung zur Transparenz und Rechenschaftspflicht für den verantwortungsvollen Einsatz von künstlicher Intelligenz-Technologie übernehmen. Fragen, die Technologieunternehmen vor der Veröffentlichung neuer künstlicher Intelligenz-Anwendungen stellen sollten, sind: Ist die Datenbasis, auf der diese Technologie trainiert wurde, ausreichend vielfältig? Wie wird Vorurteil erkannt? Wie wird es getestet und von wem? Was sind die Anreize für die Entwickler? Wer wird kommerziell von ihr profitieren?

Es ist wichtig zu beachten, dass künstliche Intelligenz-Lösungen die zugrunde liegende Datenbasis widerspiegeln, auf der diese Anwendungen trainiert wurden. Daher ist es entscheidend, dass diese Daten nicht voreingenommen sind und die Vielfalt der Bevölkerung, der sie dienen sollen, widerspiegeln. In den Worten der künstlichen Intelligenz-Forscherin Professor Joanna Bryson, “Wenn die zugrunde liegende Datenbasis Stereotypen widerspiegelt oder wenn Sie künstliche Intelligenz aus der menschlichen Kultur trainieren, werden Sie Vorurteile finden. Und wenn wir nicht vorsichtig sind, riskieren wir, diese Vorurteile in die Computerprogramme zu integrieren, die schnell die Kontrolle über alles übernehmen, von Krankenhäusern bis hin zu Schulen und Gefängnissen – Programme, die eigentlich diese Vorurteile beseitigen sollen.”

ABBYY hat kürzlich eine Globale Initiative zur Förderung der Entwicklung von vertrauenswürdiger künstlicher Intelligenz gestartet. Wie wichtig ist diese Initiative für die Zukunft von ABBYY?

Die Entscheidung, unsere globale Initiative für vertrauenswürdige künstliche Intelligenz zu entwickeln, ist eine wichtige Entscheidung, die von unserem Glauben getrieben wird, dass wir als Unternehmen, dessen Technologien Unternehmen auf der ganzen Welt beeinflussen und Zehntausende von Einzelpersonen dienen, eine Verpflichtung haben, gute Corporate Citizens mit sozialem Gewissen zu sein. Dies hilft nicht nur dabei, mehr Vertrauen bei unseren globalen Kunden und Partnern zu schaffen, sondern stellt auch sicher, dass unsere Technologien weiterhin einen tiefgreifenden Einfluss haben, der dem Gemeinwohl dient.

Es ist auch aus geschäftlicher Sicht sinnvoll, die vertrauenswürdige Verwendung von künstlicher Intelligenz zu fördern und zu unterstützen. Dies stärkt unser Markenimage, schafft Vertrauen bei unseren globalen Kunden und unserem Partner-Ökosystem. Vertrauen übersetzt sich in wiederholtes Geschäft und nachhaltiges Wachstum.

Ein Teil dieser Initiative ist, dass ABBYY sich verpflichtet, eine Kultur zu fördern, die die ethische Verwendung von künstlicher Intelligenz und ihren sozialen Nutzen fördert. Was muss getan werden, damit andere Unternehmen eine ähnliche Kultur fördern?

Technologieunternehmen müssen einen Rahmen für die ethische Verwendung von künstlicher Intelligenz entwickeln. Der Umfang einer solchen Verpflichtung hängt von den beabsichtigten Anwendungen von künstlicher Intelligenz-Algorithmen ab. Der beste Weg, ihren Einfluss zu bewerten, ist, das Prinzip “keinen Schaden anrichten” anzuwenden und eine Verpflichtung zur vertrauenswürdigen Verwendung von künstlicher Intelligenz von oben zu haben.

Ebenso wichtig ist eine Verpflichtung zur Transparenz. Während IP-Rechte mit dem Prinzip der vertrauenswürdigen künstlichen Intelligenz abgewogen werden sollten, sollte die Bedeutung von Transparenz und Rechenschaftspflicht für den verantwortungsvollen Einsatz von künstlicher Intelligenz klar artikuliert und innerhalb des Unternehmens kommuniziert werden.

Eine der Initiativen, zu denen sich ABBYY verpflichtet hat, ist die Bereitstellung von künstlicher Intelligenz-Technologie, die sozial und wirtschaftlich vorteilhaft ist. Dies kann eine schwierige Balance sein. Wie können Unternehmen diese Balance am besten umsetzen?

Führungskräfte können diese Balance erreichen, indem sie Empfehlungen von Deloitte berücksichtigen: Die Einbeziehung von Ethik in die künstliche Intelligenz beginnt mit der Bestimmung dessen, was für Stakeholder wie Kunden, Mitarbeiter, Regulierungsbehörden und die allgemeine Öffentlichkeit wichtig ist. Unternehmen sollten einen speziellen AI-Governance- und Beratungsausschuss aus cross-funktionellen Führungskräften und externen Beratern einrichten, der mit multi-stakeholder-Arbeitsgruppen zusammenarbeitet und die Governance von künstlicher Intelligenz-Lösungen, einschließlich ihrer Konzeption, Entwicklung, Bereitstellung und Nutzung, überwacht.

Wie wir unsere kommerziellen Interessen und den sozialen Nutzen in Einklang bringen, wurde kürzlich während der Coronavirus-Pandemie demonstriert. Wir haben viele unserer Technologien kostenlos oder zu ermäßigten Preisen zur Verfügung gestellt, um Einzelpersonen und Organisationen dabei zu helfen, die Krise zu meistern, die Geschäftskontinuität aufrechtzuerhalten und ihre Kunden in unvorhersehbaren Umständen zu unterstützen.

Wir haben auch kürzlich unsere Technologie-Frameworks über NeoML verfügbar gemacht, unsere plattformübergreifende Open-Source-Machine-Learning-Bibliothek, die es Software-Entwicklern ermöglicht, bewährte und zuverlässige Modelle zu nutzen, um die künstliche Intelligenz-Innovation voranzutreiben.

Könnten Sie Ihre Ansichten über die Verwendung von künstlicher Intelligenz für COVID-19-Apps zur Kontaktnachverfolgung und die Notwendigkeit, das Recht auf Privatsphäre zu wahren, teilen?

Dies ist ein besonders schwieriges Thema. Es gibt diejenigen, die argumentieren, dass die Implementierung von mobilen Tracking-Anwendungen einen unerwünschten Eingriff in die Privatsphäre darstellt. Auf der anderen Seite gibt es, wenn es um die öffentliche Sicherheit geht, immer Grenzen für Rechte im Allgemeinen. Es ist ein Trade-off zwischen Rechten und Verantwortungen. Rechte sind jedoch nicht absolut. Die Eindämmung einer globalen Pandemie erfordert koordinierte Maßnahmen und die Anwendung von Ressourcen und Technologien, die verantwortungsvoll eingesetzt werden können, um die Bevölkerung im Allgemeinen zu schützen.

Diese Balance zwischen individuellen Privatsphäre-Rechten und dem Gemeinwohl wird innerhalb eines Rechtsrahmens anerkannt. Zum Beispiel identifiziert die DSGVO sechs Gründe für die rechtmäßige Verarbeitung personenbezogener Daten, einschließlich einer Bestimmung, dass die Verarbeitung bei öffentlichem Interesse unerlässlich ist, eine solche Verarbeitung personenbezogener Daten ohne die Zustimmung der betroffenen Person gerechtfertigt ist.

Des Weiteren besagt Erwägungsgrund 46 der DSGVO ausdrücklich, dass die Verarbeitung personenbezogener Daten bei humanitären Notfällen, einschließlich Epidemien, ohne die Zustimmung der betroffenen Person gerechtfertigt ist. Es ist jedoch wichtig zu beachten, dass Erwägungsgrund 46 die Anwendung der Bestimmung des öffentlichen Interesses sehr eng fasst und feststellt, dass dies nur dann stattfinden sollte, wenn es nicht auf einer anderen Rechtsgrundlage basieren kann.

Außer der Abwägung von Privatsphäre-Rechten mit dem Gemeinwohl ist es auch wichtig, dass der Technologie-Sektor und die politischen Entscheidungsträger ethisch einwandfreie, transparente und faire Richtlinien für die Verwendung von künstlicher Intelligenz-gesteuerter Profilierung und die Weitergabe hochsensibler Gesundheitsinformationen umsetzen. Große Tech-Unternehmen wie Google (GOOGL ) und Facebook (META ) haben bereits Initiativen gestartet, um die Bewegungen von Nutzern zu verfolgen und zu bestimmen, wie sich das Virus ausbreitet und die Wirksamkeit von Maßnahmen zur sozialen Distanzierung zu bewerten.

Ich glaube, dass solange die Informationen anonymisiert sind, ihre Verwendung sozialen Nutzen hat.

Gibt es noch etwas, das Sie bezüglich der neuen Globalen Initiative von ABBYY zur Förderung der Entwicklung von vertrauenswürdiger künstlicher Intelligenz teilen möchten?

Regulierungen tendieren dazu, der technologischen Innovation hinterherzuhinken, daher müssen Unternehmen eine proaktive Rolle bei der Förderung von Transparenz und Rechenschaftspflicht für künstliche Intelligenz-Technologie und deren Auswirkungen auf Privatsphäre und Sicherheitsrechte übernehmen. Unsere Initiative spiegelt unser Engagement in diesem Unterfangen wider. Seit unserer Gründung haben wir innovative Technologien entwickelt, die wertvolle Informationen bewahren und in handhabbare Erkenntnisse umwandeln.

Des Weiteren sollte die ethische Verwendung von künstlicher Intelligenz-Technologie nicht nur auf einer rechtlichen Grundlage, sondern auch als moralische Verpflichtung und ein geschäftliches Gebot betrachtet werden. Wenn Ihre Lösungen eine weite Reichweite haben und geschäftskritische Funktionen beeinflussen, sollte es ein Branchenstandard sein, transparent in der Anwendung von künstlicher Intelligenz-Technologie zu sein.

Vielen Dank, dass Sie diese wichtigen Fragen beantwortet haben. Um ABBYYs Leitlinien und Ansatz zur Einhaltung und Förderung von vertrauenswürdiger künstlicher Intelligenz zu sehen, klicken Sie hier. Wer mehr über ABBYY im Allgemeinen erfahren möchte, kann die ABBYY-Website besuchen.