Bradford Newman, Vorsitzender der Nordamerika-Handelsgeheimnis-Praxis – Interview-Reihe

Bradford spezialisiert sich auf Angelegenheiten im Zusammenhang mit Handelsgeheimnissen und künstlicher Intelligenz. Er ist der Vorsitzende des AI-Unterausschusses der ABA. Er wurde 2019 von der Daily Journal als einer der Top 20 AI-Anwälte in Kalifornien anerkannt und hat maßgeblich an der Ausarbeitung von Bundesgesetzen zur künstlichen Intelligenz am Arbeitsplatz und zum geistigen Eigentum mitgewirkt, die 2018 in einen Diskussionsentwurf des Repräsentantenhauses der Vereinigten Staaten umgesetzt wurden. Er hat auch Verfahren für die Überwachung von künstlicher Intelligenz und die Corporate Governance entwickelt, die darauf abzielen, algorithmische Fairness sicherzustellen.

Was hat Ihr Interesse an künstlicher Intelligenz initially geweckt?

Ich habe die weltweit führenden Innovatoren und Hersteller von AI-Produkten und -Technologien viele Jahre lang vertreten. Mein Interesse hat immer darin bestanden, hinter die Kulissen zu schauen und die rechtlichen und technischen Aspekte des maschinellen Lernens zu verstehen und zu beobachten, wie sich die künstliche Intelligenz entwickelt. Ich bin fasziniert von dem, was in verschiedenen Bereichen möglich ist.

Sie sind ein vehementer Befürworter einer rationalen Regulierung der künstlichen Intelligenz, insbesondere in Bezug auf die Regulierung, die die öffentliche Gesundheit schützt. Können Sie einige Ihrer Hauptbedenken erörtern?

Ich glaube, dass wir uns in den Anfängen einer der tiefgreifendsten Revolutionen befinden, die die Menschheit je erlebt hat. Die künstliche Intelligenz hat das Potenzial, jeden Aspekt unseres Lebens zu beeinflussen, von dem Moment, an dem wir morgens aufwachen, bis zu dem Moment, an dem wir abends schlafen gehen – und auch, während wir schlafen. Viele Anwendungen der künstlichen Intelligenz werden unsere Lebensqualität positiv beeinflussen und wahrscheinlich unsere Langlebigkeit als Spezies.

Im Moment sind wir, aus Sicht der Informatik und des maschinellen Lernens, noch sehr in den Prozess involviert, von der Codierung der Algorithmen bis zum Verständnis der Trainingsdatensätze, bis zur Verarbeitung der Ergebnisse, der Erkennung der Mängel und der Produktionsfähigkeit der Technologie.

Aber wir sind in einem Wettlauf gegen die Zeit auf zwei großen Fronten. Erstens, was als “Black-Box”-Problem bekannt ist: Die menschliche Beteiligung und das Verständnis der künstlichen Intelligenz werden im Laufe der Zeit abnehmen, wenn die künstliche Intelligenz (denken Sie an ANNs) fortschreitet. Und zweitens, die Verwendung der künstlichen Intelligenz durch Regierungen und private Interessen wird zunehmen.

Meine Sorge ist, dass die künstliche Intelligenz, sowohl absichtlich als auch unabsichtlich, auf Weise eingesetzt wird, die im Widerspruch zu den westlichen demokratischen Idealen der individuellen Freiheit und des Rechts steht.

Wie können wir diese Bedenken angehen?

Die Gesellschaft ist an dem Punkt, an dem wir nicht mehr darüber entscheiden müssen, was mit der künstlichen Intelligenz möglich ist, sondern was verboten oder teilweise eingeschränkt werden sollte.

Zunächst müssen wir speziell die Entscheidungen identifizieren, die niemals ganz oder teilweise durch die algorithmische Ausgabe generiert durch die künstliche Intelligenz getroffen werden dürfen. Das bedeutet, dass selbst in Situationen, in denen jeder Experte darin einig ist, dass die Daten ein- und ausreichend unbefangen, transparent und genau sind, es ein gesetzliches Verbot geben muss, sie für jede Art von Vorhersage- oder Entscheidungsfindung zu verwenden.

Zugegebenermaßen ist dies in einer Welt, in der wir mathematische Gewissheit suchen, kontraintuitiv, aber die Einrichtung einer “No-Fly-Zone” für die künstliche Intelligenz ist unerlässlich, um die Freiheiten, die wir alle schätzen und die als Grundlage unserer Gesellschaft dienen, zu bewahren.

Zweitens benötigen wir für andere identifizierte Entscheidungen, die auf künstlicher Intelligenz-Analytics basieren und nicht vollständig verboten sind, Gesetze, die klar definieren, bei denen ein Mensch in den Entscheidungsprozess involviert sein muss.

Sie haben maßgeblich an der Ausarbeitung von Bundesgesetzen zur künstlichen Intelligenz am Arbeitsplatz und zum geistigen Eigentum mitgewirkt, die 2018 in einen Diskussionsentwurf des Repräsentantenhauses der Vereinigten Staaten umgesetzt wurden. Können Sie einige dieser Vorschläge erörtern?

Der AI-Datenschutzgesetz soll Innovationen fördern und darauf abzielen, (1) die Transparenz in der Natur und der Verwendung von künstlicher Intelligenz zu erhöhen und das Vertrauen in die künstliche Intelligenz aufzubauen; (2) die Auswirkungen der künstlichen Intelligenz auf den Arbeitsmarkt anzugehen und (3) die öffentliche Gesundheit und Sicherheit zu schützen.

Er hat mehrere wichtige Komponenten. Zum Beispiel verbietet er es den betroffenen Unternehmen, sich ausschließlich auf die künstliche Intelligenz zu verlassen, um bestimmte Entscheidungen zu treffen, einschließlich einer Entscheidung über die Einstellung von Personen oder die Ablehnung oder Einschränkung einer medizinischen Behandlung, und verbietet es den medizinischen Versicherungsanbietern, Entscheidungen über die Abdeckung einer medizinischen Behandlung allein auf der Grundlage von AI-Analytics zu treffen. Er richtet auch den Artificial Intelligence Board ein – eine neue Bundesbehörde, die mit spezifischen Verantwortungen für die Regulierung der künstlichen Intelligenz in Bezug auf die öffentliche Gesundheit und Sicherheit betraut ist. Und er verlangt von den betroffenen Unternehmen, einen Chief Artificial Intelligence Officer zu ernennen.

Sie haben auch Verfahren für die Überwachung von künstlicher Intelligenz und die Corporate Governance entwickelt, die darauf abzielen, algorithmische Fairness sicherzustellen. Welche aktuellen Probleme sehen Sie hinsichtlich Fairness oder Voreingenommenheit in AI-Systemen?

Dieses Thema ist Gegenstand intensiver Prüfung durch Akademiker und erhält nun die Aufmerksamkeit von US-Regierungsbehörden wie der Equal Employment Opportunity Commission (EEOC) und der Klägeranwälte. Meistens resultiert die Ursache aus einem Fehler in den Trainingsdatensätzen oder dem Mangel an Verständnis und Transparenz in der Testumgebung. Dies wird durch den Mangel an zentralem Eigentum und Überwachung der künstlichen Intelligenz durch das Senior-Management verschlimmert.

Dieser Mangel an technischem Verständnis und situativem Bewusstsein ist ein erhebliches Haftungsrisiko. Ich habe mit mehreren prominenten Klägeranwälten gesprochen, die auf der Jagd nach AI-Voreingenommenheitsfällen sind.

Das Deep Learning leidet oft unter dem “Black-Box”-Problem, bei dem wir Daten in ein Artificial Neural Network (ANN) eingeben und dann eine Ausgabe erhalten, ohne zu wissen, wie diese Ausgabe generiert wurde. Glauben Sie, dass dies ein großes Problem ist?

Ja. Und da die Algorithmen und neuronalen Netze weiterentwickelt werden und Menschen zunehmend nicht mehr “in der Schleife” sind, besteht das Risiko, den Wendepunkt zu überschreiten, an dem wir nicht mehr in der Lage sein werden, kritische Elemente der Funktion und Ausgabe zu verstehen.

Im Zusammenhang mit COVID-19 haben Länder auf der ganzen Welt AI-gestützte staatliche Überwachungssysteme eingeführt. Wie sehr beschäftigen Sie sich mit dem potenziellen Missbrauch solcher Überwachung?

Es ist naiv und eigentlich unverantwortlich aus Sicht der individuellen Rechte und Freiheiten, das Risiko des Missbrauchs herunterzuspielen oder zu ignorieren. Während die Kontaktverfolgung inmitten einer globalen Pandemie sinnvoll erscheint und die AI-gestützte Gesichtserkennung eine effektive Maßnahme bietet, um das zu tun, wozu Menschen allein nicht in der Lage wären, muss die Gesellschaft gesetzliche Verbote des Missbrauchs sowie wirksame Überwachungs- und Durchsetzungsmechanismen einführen. Andernfalls geben wir dem Staat ein Kernelement unserer individuellen Grundrechte preis. Sobald wir dies großzügig abgegeben haben, wird dieses grundlegende Element unserer Freiheit und Privatsphäre nicht zurückgegeben.

Sie haben zuvor gesagt, dass “Wir eine AI-‘No-Fly-Zone’ einrichten müssen, wenn wir die Freiheiten bewahren wollen, die die Amerikaner alle schätzen und die als Grundlage unserer Gesellschaft dienen.” Können Sie einige dieser Bedenken teilen, die Sie haben?

Wenn wir über die künstliche Intelligenz sprechen, müssen wir immer auf den wesentlichen Zweck der künstlichen Intelligenz achten: die Erzeugung genauer Vorhersage-Analytics aus sehr großen Datensätzen, die dann verwendet werden, um Menschen zu klassifizieren und Entscheidungen zu treffen. Als Nächstes müssen wir die Entscheidungsträger untersuchen, was sie entscheiden und auf was sie ihre Entscheidungen basieren.

Wenn wir verstehen, dass die Entscheidungsträger diejenigen sind, die den größten Einfluss auf unsere Gesundheit, unseren Lebensunterhalt und unsere Freiheiten haben – Arbeitgeber, Vermieter, Ärzte, Versicherer, Strafverfolgungsbehörden und jedes andere private, kommerzielle und staatliche Unternehmen, das AI-Analytics generieren, sammeln oder kaufen kann -, wird es leicht zu sehen sein, dass in einer westlichen liberalen Demokratie, im Gegensatz zu einem totalitären Regime, es Entscheidungen geben sollte, die nicht und dürfen nicht allein der künstlichen Intelligenz überlassen werden.

Während viele offensichtliche Entscheidungen in den Sinn kommen, wie das Verbot der Inhaftierung einer Person, bevor ein Verbrechen begangen wurde, stellt die weite Verbreitung der künstlichen Intelligenz in jeden Aspekt unseres Lebens viel komplexere Beispiele ethischer Dilemmata dar. Zum Beispiel: Wenn ein Algorithmus genau vorhersagt, dass Arbeitnehmer, die auf sozialen Medien Fotos von Strandurlauben posten, auf denen sie Alkohol trinken, im Durchschnitt 3,5 Jahre früher ihre Arbeit verlassen oder entlassen werden als diejenigen, die Fotos von sich selbst beim Training posten, sollte die erstgenannte Kategorie allein aufgrund der algorithmischen Ausgabe eine Beförderung oder Gehaltserhöhung verwehrt werden? Wenn ein Algorithmus richtig bestimmt, dass Teenager, die mehr als 2 Stunden pro Tag Videospiele spielen, weniger wahrscheinlich von einer vierjährigen Universität abschließen, sollten solche Schüler allein aufgrund der algorithmischen Ausgabe die Zulassung verwehrt werden? Wenn asiatische Frauen in ihren Sechzigern, die wegen COVID-19-bezogener Symptome auf die Intensivstation eingeliefert werden, eine höhere Überlebenschance haben als afroamerikanische Männer in ihren Siebzigern, sollten Frauen bevorzugt medizinisch behandelt werden?

Diese vereinfachten Beispiele sind nur einige der zahlreichen Entscheidungen, bei denen die alleinige Abhängigkeit von der künstlichen Intelligenz im Widerspruch zu unseren Vorstellungen von individuellen Menschenrechten steht.

Gibt es noch etwas, das Sie bezüglich der künstlichen Intelligenz oder Baker McKenzie teilen möchten?

Ich bin extrem motiviert, Baker McKenzies wirklich internationale AI-Praxis inmitten der sich entwickelnden Landschaft zu leiten. Wir erkennen, dass unsere Kunden hungrig nach Anleitung in allen Dingen AI sind, von der Verhandlung von Verträgen bis zur Einrichtung interner Überwachung, bis hin zur Vermeidung von Ansprüchen wegen Voreingenommenheit, bis hin zum Verständnis des entstehenden nationalen und internationalen Regulierungsrahmens.

Unternehmen wollen das Richtige tun, aber es gibt nur wenige Anwaltskanzleien, die die notwendige Expertise und das Verständnis für die künstliche Intelligenz und das maschinelle Lernen haben, um ihnen helfen zu können. Für uns, die wir sowohl AI-Enthusiasten als auch Anwälte sind, ist dies eine aufregende Zeit, um unseren Kunden echten Mehrwert zu bieten.

Vielen Dank für die fantastischen Antworten zu einigen dieser großen gesellschaftlichen Bedenken im Zusammenhang mit der künstlichen Intelligenz. Leser, die mehr über Bradford Newman erfahren möchten, sollten hier klicken.