Bradford Newman, Vorsitzender der Nordamerika-Praxis für Handelsgeheimnisse – Interview-Serie

Bradford Newman ist auf Fragen im Zusammenhang mit Handelsgeheimnissen und künstlicher Intelligenz spezialisiert. Er ist Vorsitzender des AI-Ausschusses der ABA. Im Jahr 2019 wurde er von der Daily Journal (DJCO ) als einer der Top 20 AI-Anwälte in Kalifornien anerkannt. Newman hat maßgeblich an der Ausarbeitung von Bundesgesetzen zur Regulierung von künstlicher Intelligenz im Arbeitsplatz und im Bereich des geistigen Eigentums mitgewirkt, die 2018 in einen Diskussionsentwurf des Repräsentantenhauses der Vereinigten Staaten umgesetzt wurden. Er hat auch Richtlinien für die Überwachung von künstlicher Intelligenz und Corporate Governance entwickelt, die darauf abzielen, algorithmische Fairness zu gewährleisten.

Was hat Ihr Interesse an künstlicher Intelligenz initially geweckt?

Ich habe die weltweit führenden Innovatoren und Hersteller von AI-Produkten und -Technologien über viele Jahre hinweg vertreten. Mein Interesse hat immer darin bestanden, hinter die Kulissen zu schauen und die rechtlichen und technischen Aspekte des maschinellen Lernens zu verstehen und zu beobachten, wie sich künstliche Intelligenz entwickelt. Ich bin fasziniert von den Möglichkeiten, die sich in verschiedenen Bereichen eröffnen.

Sie sind ein vehementer Befürworter einer rationalen Regulierung von künstlicher Intelligenz, insbesondere in Bezug auf die Regulierung, die den Schutz der öffentlichen Gesundheit zum Ziel hat. Können Sie einige Ihrer Hauptbedenken erläutern?

Ich glaube, dass wir uns in den Anfängen einer der tiefgreifendsten Revolutionen befinden, die die Menschheit je erlebt hat. Künstliche Intelligenz hat das Potenzial, jeden Aspekt unseres Lebens zu beeinflussen, von dem Moment, an dem wir morgens aufwachen, bis zu dem Moment, an dem wir abends einschlafen – und auch, während wir schlafen. Viele Anwendungen von künstlicher Intelligenz werden unsere Lebensqualität positiv beeinflussen und wahrscheinlich unsere Langlebigkeit als Spezies verlängern.

Aktuell sind wir noch in einer Phase, in der Menschen stark in den Prozess involviert sind, von der Codierung der Algorithmen bis hin zur Verarbeitung der Ergebnisse und der Erkennung der Schwächen und der Produktentwicklung.

Aber wir laufen gegen die Zeit auf zwei großen Fronten. Erstens gibt es das sogenannte “Black-Box”-Problem: Die menschliche Beteiligung und das Verständnis von künstlicher Intelligenz werden im Laufe der Zeit abnehmen, wenn die Komplexität von künstlicher Intelligenz (etwa in Form von ANN) zunimmt. Zweitens wird die Nutzung von künstlicher Intelligenz durch Regierungen und private Interessen zunehmen.

Meine Sorge ist, dass künstliche Intelligenz sowohl absichtlich als auch unabsichtlich auf Weise eingesetzt wird, die im Widerspruch zu den westlichen demokratischen Idealen von individueller Freiheit und Selbstbestimmung steht.

Wie können wir diese Bedenken angehen?

Die Gesellschaft steht an einem Punkt, an dem wir nicht mehr darüber entscheiden müssen, was mit künstlicher Intelligenz möglich ist, sondern was verboten oder eingeschränkt werden sollte.

Erstens müssen wir spezifisch die Entscheidungen identifizieren, die niemals allein durch die algorithmische Ausgabe von künstlicher Intelligenz getroffen werden dürfen. Das bedeutet, dass es auch in Situationen, in denen jeder Experte übereinstimmt, dass die Daten ein- und ausreichend unvoreingenommen, transparent und genau sind, ein gesetzliches Verbot für die Nutzung von künstlicher Intelligenz für jegliche Art von Vorhersage oder substantieller Entscheidungsfindung geben muss.

Zweitens benötigen wir für andere identifizierte Entscheidungen auf der Grundlage von künstlicher Intelligenz-Analytics, die nicht vollständig verboten sind, Gesetze, die klar definieren, in welchen Fällen eine menschliche Beteiligung an der Entscheidungsfindung erforderlich ist.

Sie haben maßgeblich an der Ausarbeitung von Bundesgesetzen zur Regulierung von künstlicher Intelligenz im Arbeitsplatz und im Bereich des geistigen Eigentums mitgewirkt, die 2018 in einen Diskussionsentwurf des Repräsentantenhauses der Vereinigten Staaten umgesetzt wurden. Können Sie einige dieser Vorschläge erläutern?

Der AI-Datenschutzakt soll Innovation fördern und dazu beitragen, (1) Transparenz über die Natur und den Einsatz von künstlicher Intelligenz zu erhöhen und das Vertrauen der Öffentlichkeit in künstliche Intelligenz zu stärken; (2) die Auswirkungen von künstlicher Intelligenz auf den Arbeitsmarkt anzugehen und (3) die öffentliche Gesundheit und Sicherheit zu schützen.

Er hat mehrere wichtige Bestandteile. Zum Beispiel verbietet er es den betroffenen Unternehmen, allein auf künstliche Intelligenz zu vertrauen, um bestimmte Entscheidungen zu treffen, einschließlich einer Entscheidung über die Einstellung von Personen oder die Ablehnung oder Einschränkung einer medizinischen Behandlung, und verbietet es den medizinischen Versicherungsanbietern, Entscheidungen über die Abdeckung einer medizinischen Behandlung allein auf der Grundlage von künstlicher Intelligenz-Analytics zu treffen. Er etabliert auch den künstlichen Intelligenz-Beirat – eine neue Bundesbehörde, die mit spezifischen Verantwortlichkeiten für die Regulierung von künstlicher Intelligenz in Bezug auf die öffentliche Gesundheit und Sicherheit betraut ist. Und er verlangt von den betroffenen Unternehmen, einen Chief Artificial Intelligence Officer zu ernennen.

Sie haben auch Richtlinien für die Überwachung von künstlicher Intelligenz und Corporate Governance entwickelt, die darauf abzielen, algorithmische Fairness zu gewährleisten. Welche aktuellen Probleme sehen Sie hinsichtlich Fairness oder Vorurteilen in künstlichen Intelligenz-Systemen?

Dieses Thema ist Gegenstand intensiver Prüfung durch Akademiker und wird nun auch von US-Regierungsbehörden wie der Equal Employment Opportunity Commission (EEOC) und der Klägervertretung interessiert. Meistens resultiert die Ursache aus einem Fehler in den Trainingsdatensätzen oder dem Mangel an Verständnis und Transparenz in der Testumgebung. Dies wird durch den Mangel an zentralem Eigentum und Überwachung von künstlicher Intelligenz durch das Senior-Management verstärkt.

Dieser Mangel an technischem Verständnis und situativem Bewusstsein ist ein erhebliches Haftungsrisiko. Ich habe mit mehreren prominenten Klägeranwälten gesprochen, die auf der Jagd nach Fällen von künstlicher Intelligenz-Vorurteilen sind.

Das Deep Learning leidet oft unter dem “Black-Box”-Problem, bei dem wir Daten in ein künstliches neuronales Netzwerk (ANN) eingeben und dann eine Ausgabe erhalten, ohne zu wissen, wie diese Ausgabe generiert wurde. Halten Sie dies für ein großes Problem?

Ja, ich halte dies für ein großes Problem. Und da Algorithmen und neuronale Netze weiterentwickelt werden und Menschen zunehmend nicht mehr “im Loop” sind, besteht das Risiko, einen Wendepunkt zu überschreiten, an dem wir nicht mehr in der Lage sein werden, kritische Elemente von Funktion und Ausgabe zu verstehen.

Im Zusammenhang mit COVID-19 haben Länder auf der ganzen Welt AI-gestützte staatliche Überwachungssysteme eingeführt. Wie sehr beschäftigt Sie das potenzielle Missbrauchsrisiko bei dieser Art von Überwachung?

Es ist naiv und eigentlich unverantwortlich aus Sicht der individuellen Rechte und Freiheiten, das Risiko des Missbrauchs zu ignorieren oder herunterzuspielen. Während die Kontaktverfolgung inmitten einer globalen Pandemie vernünftig erscheint und die AI-basierte Gesichtserkennung eine effektive Maßnahme bietet, die Menschen allein nicht leisten könnten, muss die Gesellschaft gesetzliche Verbote für den Missbrauch sowie wirksame Überwachungs- und Durchsetzungsmechanismen etablieren. Andernfalls geben wir dem Staat ein Kernelement unserer individuellen Grundrechte preis. Sobald wir dies in großer Menge abgegeben haben, werden wir diese grundlegende Freiheit und Privatsphäre nicht zurückbekommen.

Sie haben zuvor gesagt, dass “wir eine AI-‘No-Fly-Zone’ etablieren müssen, wenn wir die Freiheiten bewahren wollen, die die Amerikaner alle schätzen und die als Grundlage unserer Gesellschaft dienen.” Können Sie einige dieser Bedenken erläutern, die Sie haben?

Wenn wir über künstliche Intelligenz sprechen, müssen wir immer auf den wesentlichen Zweck von künstlicher Intelligenz fokussieren: die Erzeugung genauer Vorhersageanalysen aus sehr großen Datensätzen, die dann zur Klassifizierung von Menschen und zur Entscheidungsfindung verwendet werden. Als Nächstes müssen wir die Entscheidungsträger, das, was sie entscheiden, und auf was sie ihre Entscheidungen basieren, untersuchen.

Wenn wir verstehen, dass die Entscheidungsträger diejenigen sind, die den größten Einfluss auf unsere Gesundheit, unser Einkommen und unsere Freiheiten haben – Arbeitgeber, Vermieter, Ärzte, Versicherer, Strafverfolgungsbehörden und jedes andere private, kommerzielle und staatliche Unternehmen, das AI-Analytics generieren, sammeln oder kaufen kann -, wird es leicht zu erkennen, dass es in einer westlichen liberalen Demokratie im Gegensatz zu einem totalitären Regime Entscheidungen geben sollte, die nicht allein von künstlicher Intelligenz getroffen werden sollten.

Während viele offensichtliche Entscheidungen in den Sinn kommen, wie das Verbot, jemanden vor einem Verbrechen zu inhaftieren, stellt die weitverbreitete Einführung von künstlicher Intelligenz in alle Aspekte unseres Lebens viel komplexere Beispiele ethischer Dilemmata dar. Zum Beispiel: Sollte eine Person, die auf sozialen Medien Fotos von Strandurlauben mit Alkoholkonsum postet, allein aufgrund der algorithmischen Ausgabe eine Beförderung oder Gehaltserhöhung verwehrt werden? Sollte ein Schüler, der mehr als zwei Stunden pro Tag Videospiele spielt, allein aufgrund der Tatsache, dass die Algorithmik feststellt, dass solche Schüler weniger wahrscheinlich von einer vierjährigen Universität abschließen, die Zulassung verwehrt werden? Sollten asiatische Frauen in ihren Sechzigern, die wegen COVID-19-bezogener Symptome in die Intensivstation eingeliefert werden, allein aufgrund der Tatsache, dass die Algorithmik feststellt, dass sie eine höhere Überlebenschance haben als afroamerikanische Männer in ihren Siebzigern, bevorzugt medizinisch behandelt werden?

Diese vereinfachten Beispiele sind nur einige der zahlreichen Entscheidungen, bei denen die alleinige Verwendung von künstlicher Intelligenz im Widerspruch zu unseren Vorstellungen von individuellen Menschenrechten steht.

Gibt es noch etwas, das Sie bezüglich künstlicher Intelligenz oder Baker McKenzie teilen möchten?

Ich bin sehr energiegeladen, um Baker McKenzies wirklich internationale AI-Praxis inmitten der sich entwickelnden Landschaft zu leiten. Wir erkennen, dass unsere Klienten nach Anleitung in allen Belangen von künstlicher Intelligenz suchen, von Vertragsverhandlungen bis hin zur Etablierung interner Überwachung, zur Vermeidung von Vorwürfen der Voreingenommenheit und zum Verständnis des aufkommenden nationalen und internationalen regulatorischen Rahmens.

Unternehmen wollen das Richtige tun, aber es gibt nur wenige Anwaltskanzleien, die die notwendige Expertise und das Verständnis von künstlicher Intelligenz und maschinellem Lernen haben, um sie unterstützen zu können. Für uns, die sowohl AI-Enthusiasten als auch Anwälte sind, ist dies eine aufregende Zeit, um einen echten Mehrwert für unsere Klienten zu bieten.

Vielen Dank für die fantastischen Antworten zu einigen dieser großen gesellschaftlichen Bedenken im Zusammenhang mit künstlicher Intelligenz. Leser, die mehr über Bradford Newman erfahren möchten, sollten hier klicken.