Bailey Kacsmar, PhD-Kandidatin an der University of Waterloo – Interview-Serie

Bailey Kacsmar ist PhD-Kandidatin an der School of Computer Science der University of Waterloo und zukünftige Fakultätsmitglied an der University of Alberta. Ihre Forschungsinteressen liegen in der Entwicklung von benutzerbewussten Technologien zur Verbesserung der Privatsphäre, durch die parallele Untersuchung von technischen Ansätzen für private Berechnungen sowie der entsprechenden Benutzerwahrnehmungen, Bedenken und Verständnisses dieser Technologien. Ihre Arbeit zielt darauf ab, das Potenzial und die Grenzen für die Privatsphäre in maschinellen Lernanwendungen zu identifizieren.

Ihre Forschungsinteressen liegen in der Entwicklung von benutzerbewussten Technologien zur Verbesserung der Privatsphäre, warum ist die Privatsphäre in der KI so wichtig?

Die Privatsphäre in der KI ist so wichtig, weil die KI in unserer Welt nicht ohne Daten existiert. Daten sind letztendlich etwas, das Menschen und ihr Verhalten beschreibt. Wir arbeiten selten mit Daten über Baumpopulationen und Wasserstände; daher müssen wir uns immer bewusst sein, dass wir mit etwas arbeiten, das reale Menschen betrifft, und verstehen, wie unser System Gutes oder Schlechtes bewirken kann. Dies ist insbesondere bei der KI der Fall, bei der viele Systeme von großen Mengen an Daten profitieren oder versuchen, hochsensible Daten (wie Gesundheitsdaten) zu verwenden, um neue Erkenntnisse über unsere Welt zu entwickeln.

Welche Möglichkeiten haben Sie gesehen, dass maschineller Lern die Privatsphäre der Benutzer verletzt hat?

Verletzt ist ein starkes Wort. Allerdings läuft jedes System, das Informationen über Menschen ohne deren Zustimmung, ohne sie zu informieren und ohne mögliche Schäden zu berücksichtigen, das Risiko, die Privatsphäre von Einzelpersonen oder gesellschaftlichen Normen zu verletzen. Im Wesentlichen führt dies zu einer Verletzung durch tausend kleine Schnitte. Solche Praktiken können das Training eines Modells auf den E-Mail-Postfächern von Benutzern, das Training auf den Textnachrichten von Benutzern oder auf Gesundheitsdaten umfassen; all dies ohne die Datenquelle zu informieren.

Können Sie differentialen Datenschutz definieren und Ihre Ansichten dazu äußern?

Differentialer Datenschutz ist eine Definition oder Technik, die in Bezug auf die Verwendung für die Erreichung technischer Privatsphäre an Bedeutung gewonnen hat. Technische Definitionen von Privatsphäre umfassen im Allgemeinen zwei wichtige Aspekte; was geschützt wird und vor wem. Innerhalb der technischen Privatsphäre sind Privatsphärengarantien Schutzmaßnahmen, die unter bestimmten Annahmen erreicht werden. Diese Annahmen können sich auf potenzielle Angreifer, Systemkomplexitäten oder Statistiken beziehen. Es ist eine sehr nützliche Technik mit einer breiten Palette von Anwendungen. Es ist jedoch wichtig zu beachten, dass differentieller Datenschutz nicht gleichbedeutend mit Privatsphäre ist.

Die Privatsphäre ist nicht auf eine Definition oder ein Konzept beschränkt, und es ist wichtig, sich bewusst zu sein, dass es auch andere Vorstellungen von Privatsphäre gibt. Zum Beispiel ist kontextuelle Integrität ein konzeptionelles Privatsphärekonzept, das Dinge wie die Änderung der Privatsphärewahrnehmung einer Person in verschiedenen Anwendungen oder Organisationen berücksichtigt. Es gibt auch rechtliche Vorstellungen von Privatsphäre, wie die in Kanadas PIPEDA, Europas DSGVO und Kaliforniens Consumer Protection Act (CCPA) enthalten. All dies bedeutet, dass wir technische Systeme nicht so behandeln können, als ob sie in einem Vakuum existieren, frei von anderen Privatsphärefaktoren, auch wenn differentieller Datenschutz eingesetzt wird.

Ein weiterer Typ von maschinellem Lernen, der die Privatsphäre verbessert, ist das verteilte Lernen. Wie würden Sie dies definieren und welche Ansichten haben Sie dazu?

Verteiltes Lernen ist eine Methode, maschinelles Lernen durchzuführen, wenn das Modell auf einer Sammlung von Datenbanken trainiert werden soll, die auf mehreren Besitzern oder Standorten verteilt sind. Es ist nicht von Natur aus ein Typ von maschinellem Lernen, der die Privatsphäre verbessert. Ein Typ von maschinellem Lernen, der die Privatsphäre verbessert, muss formal definieren, was geschützt wird, vor wem geschützt wird und unter welchen Bedingungen diese Schutzmaßnahmen gelten. Zum Beispiel garantiert eine einfache differentiell private Berechnung, dass jemand, der die Ausgabe betrachtet, nicht bestimmen kann, ob ein bestimmter Datenpunkt beigetragen wurde oder nicht.

Weiterhin garantiert differentieller Datenschutz diese Garantie nicht, wenn beispielsweise eine Korrelation zwischen den Datenpunkten besteht. Verteiltes Lernen hat diese Funktion nicht; es trainiert einfach ein Modell auf einer Sammlung von Daten, ohne dass die Besitzer dieser Daten ihre Daten direkt aneinander oder an eine dritte Partei weitergeben müssen. Obwohl dies wie eine Privatsphärefunktion klingt, ist eine formale Garantie erforderlich, dass man die geschützten Informationen nicht erlernen kann, wenn man die Zwischenhändler und Ausgaben betrachtet, die die unbefugten Parteien beobachten werden. Diese Formalität ist insbesondere im verteilten Umfeld wichtig, in dem die unbefugten Parteien alle Datenlieferanten umfassen, die zum kollektiven Modell beitragen.

Welche sind einige der aktuellen Einschränkungen dieser Ansätze?

Die aktuellen Einschränkungen können am besten als die Natur des Privatsphäre-Nutzungs-Trade-offs beschrieben werden. Selbst wenn man alles andere tut, die Privatsphäre-Auswirkungen auf die Betroffenen kommuniziert, das System für das bewertet, was man zu tun versucht, usw., kommt es letztendlich darauf an, das “ideale” Gleichgewicht zu finden. Wie finden wir den richtigen Wendepunkt und bauen darauf hin, sodass wir die gewünschte Funktionalität noch erreichen, während wir die notwendigen Privatsphäre-Schutzmaßnahmen bereitstellen.

Sie zielen derzeit darauf ab, benutzerbewusste Privatsphäre-Technologie durch die parallele Untersuchung von technischen Lösungen für private Berechnungen zu entwickeln. Können Sie einige Details zu diesen Lösungen geben?

Was ich mit diesen Lösungen meine, ist, dass wir lose gesagt jede Anzahl von technischen Privatsphäre-Systemen entwickeln können. Es ist jedoch wichtig, zu bestimmen, ob die Privatsphäre-Garantien die Betroffenen erreichen. Dies kann bedeuten, ein System zu entwickeln, nachdem man herausgefunden hat, welche Arten von Schutzmaßnahmen die Bevölkerung schätzt. Dies kann bedeuten, ein System zu aktualisieren, nachdem man herausgefunden hat, wie Menschen ein System tatsächlich verwenden, wenn man ihre realen Bedrohungen und Risiken berücksichtigt. Eine technische Lösung kann ein korrektes System sein, das die Definition erfüllt, die ich erwähnt habe. Eine benutzerbewusste Lösung würde ihr System basierend auf den Eingaben von Benutzern und anderen Betroffenen im beabsichtigten Anwendungsbereich entwerfen.

Sie suchen derzeit nach interessierten Graduierten, die im September 2024 beginnen, warum denken Sie, dass Studenten an der KI-Privatsphäre interessiert sein sollten?

Ich denke, dass Studenten daran interessiert sein sollten, weil es etwas ist, das in unserer Gesellschaft immer weiter verbreitet sein wird. Um zu sehen, wie schnell diese Systeme wachsen, braucht man nur einen Blick auf die jüngste Chat-GPT-Verstärkung durch Nachrichtenartikel, soziale Medien und Debatten über ihre Auswirkungen. Wir leben in einer Gesellschaft, in der die Erfassung und Verwendung von Daten so sehr in unserem Alltag verankert sind, dass wir fast ständig Informationen über uns selbst an verschiedene Unternehmen und Organisationen weitergeben. Diese Unternehmen wollen diese Daten verwenden, in einigen Fällen, um ihre Dienstleistungen zu verbessern, in anderen für den Gewinn. Zu diesem Zeitpunkt scheint es unrealistisch, zu denken, dass diese Unternehmenspraktiken im Umgang mit Daten sich ändern werden. Es gibt jedoch das Potenzial für Privatsphäre bewahrende Systeme, die Benutzer schützen, während sie bestimmte Analysen ermöglichen, die von Unternehmen gewünscht werden, um das Risiko-Nutzen-Verhältnis auszugleichen, das ein impliziter Teil unserer Gesellschaft geworden ist.

Vielen Dank für das großartige Interview. Leser, die mehr erfahren möchten, sollten Bailey Kacsmars Github-Seite besuchen.