Gibt es eine klare Lösung für die Privatsphärenrisiken, die durch generative KI verursacht werden?

Die Privatsphärenrisiken, die durch generative KI verursacht werden, sind sehr real. Von erhöhter Überwachung und Exposition bis hin zu effektiveren Phishing- und Vishing-Kampagnen als je zuvor, untergräbt generative KI die Privatsphäre en masse, undifferenziert, während sie böswilligen Akteuren, ob kriminell, staatlich finanziert oder staatlich, die Werkzeuge liefert, die sie benötigen, um Einzelpersonen und Gruppen zu gezielt angreifen.

Die klarste Lösung für dieses Problem besteht darin, dass Verbraucher und Nutzer kollektiv dem Hype um KI den Rücken kehren, Transparenz von denen verlangen, die KI-Features entwickeln oder implementieren, und effektive Regulierung von den Regierungsbehörden, die ihre Betrieb überwachen. Obwohl dies erstrebenswert ist, ist es unwahrscheinlich, dass dies bald passieren wird.

Was bleibt, sind vernünftige, wenn auch notwendigerweise unvollständige Ansätze, um die Privatsphärenrisiken von generativer KI zu mindern. Die langfristige, sichere, aber langweilige Vorhersage ist, dass je besser die Öffentlichkeit über Datenschutz im Allgemeinen aufgeklärt wird, desto geringer sind die Privatsphärenrisiken, die durch die Massenadoption von generativer KI entstehen.

Verstehen wir alle das Konzept von generativer KI richtig?

Der Hype um KI ist so allgegenwärtig, dass eine Umfrage darüber, was Menschen unter generativer KI verstehen, kaum notwendig ist. Natürlich stellen none dieser “KI”-Funktionen, -Funktionen und -Produkte tatsächlich Beispiele für wahre künstliche Intelligenz dar, was immer das bedeuten mag. Stattdessen handelt es sich meist um Beispiele für Machine Learning (ML), Deep Learning (DL) und Large Language Modelle (LLMs).

Generative KI, wie der Name schon sagt, kann neue Inhalte erzeugen – sei es Text (einschließlich Programmiersprachen), Audio (einschließlich Musik und menschlichen Stimmen) oder Videos (mit Ton, Dialog, Schnitten und Kameraänderungen). All dies wird durch das Training von LLMs erreicht, um Muster in menschlich erzeugten Inhalten zu erkennen, zu entsprechen und zu reproduzieren.

Lassen Sie uns ChatGPT als Beispiel nehmen. Wie viele LLMs wird es in drei breiten Stufen trainiert:

• Pre-Training: Während dieser Phase wird das LLM mit Textmaterial aus dem Internet, Büchern, akademischen Zeitschriften und allem anderen gefüttert, was potenziell relevante oder nützliche Texte enthält.
• Supervised Instruction Fine-Tuning: Modelle werden trainiert, um kohärenter auf Anweisungen zu reagieren, indem sie hochwertige Anweisungs-Antwort-Paare verwenden, die normalerweise von Menschen stammen.
• Reinforcement Learning from Human Feedback (RLHF): LLMs wie ChatGPT unterziehen sich oft dieser zusätzlichen Trainingsphase, während derer Interaktionen mit menschlichen Benutzern verwendet werden, um das Modell an typische Anwendungsfälle anzupassen.

Alle drei Trainingsphasen beinhalten Daten, entweder massive Mengen an vorher gesammelten Daten (wie bei der Pre-Training) oder Daten, die in Echtzeit gesammelt und verarbeitet werden (wie bei der RLHF). Es sind diese Daten, die den größten Teil der Privatsphärenrisiken von generativer KI tragen.

Welche Privatsphärenrisiken birgt generative KI?

Die Privatsphäre wird verletzt, wenn persönliche Informationen über eine Person (den Dateninhaber) ohne dessen Zustimmung anderen Personen oder Einheiten zugänglich gemacht werden. LLMs werden mit einer extrem breiten Palette von Daten trainiert, die auch persönliche Daten enthalten können. Diese Daten werden normalerweise aus öffentlich zugänglichen Quellen gesammelt, aber nicht immer.

Selbst wenn diese Daten aus öffentlich zugänglichen Quellen stammen, kann es als weitere Verletzung der Privatsphäre angesehen werden, wenn sie von einem LLM aggregiert und verarbeitet werden und dann im Wesentlichen durch die Schnittstelle des LLMs durchsuchbar werden.

Die Reinforcement Learning from Human Feedback (RLHF)-Phase kompliziert die Dinge. In dieser Trainingsphase werden reale Interaktionen mit menschlichen Benutzern verwendet, um die Antworten des LLMs iterativ zu korrigieren und zu verfeinern. Das bedeutet, dass eine Interaktion eines Benutzers mit einem LLM von jedem, der Zugang zu den Trainingsdaten hat, angesehen, geteilt und verbreitet werden kann.

In den meisten Fällen ist dies keine Verletzung der Privatsphäre, da die meisten LLM-Entwickler Datenschutzrichtlinien und Nutzungsbedingungen haben, die von den Benutzern verlangen, vor der Interaktion mit dem LLM zuzustimmen. Das Privatsphärenrisiko liegt jedoch darin, dass viele Benutzer nicht wissen, dass sie einer solchen Datensammlung und -verwendung zugestimmt haben. Solche Benutzer sind wahrscheinlich, private und sensible Informationen während ihrer Interaktionen mit diesen Systemen preiszugeben, ohne zu wissen, dass diese Interaktionen weder vertraulich noch privat sind.

Auf diese Weise kommen wir zu den drei Hauptwegen, auf denen generative KI Privatsphärenrisiken birgt:

• Große Mengen an Pre-Training-Daten, die möglicherweise persönliche Informationen enthalten, sind anfällig für Kompromisse und Exfiltration.
• Persönliche Informationen, die in Pre-Training-Daten enthalten sind, können an andere Benutzer desselben LLMs durch dessen Antworten auf Anfragen und Anweisungen weitergegeben werden.
• Persönliche und vertrauliche Informationen, die während Interaktionen mit LLMs preisgegeben werden, landen bei den Mitarbeitern des LLMs und möglicherweise bei Drittanbietern, von wo aus sie angesehen oder weitergegeben werden können.

All dies sind Risiken für die Privatsphäre der Benutzer, aber die Chancen, dass personenbezogene Informationen (PII) in die falschen Hände geraten, scheinen noch ziemlich gering. Das ist zumindest so, bis Datenhändler ins Spiel kommen. Diese Unternehmen spezialisieren sich darauf, PII zu finden und zu sammeln, zu aggregieren und zu verbreiten, wenn nicht gar auszustrahlen.

Mit PII und anderen persönlichen Daten, die zu einer Art Ware geworden sind, und der Datenhändlerbranche, die entstanden ist, um davon zu profitieren, ist es sehr wahrscheinlich, dass jede persönliche Information, die “dahin” kommt, von Datenhändlern aufgesammelt und weit verbreitet wird.

Die Privatsphärenrisiken von generativer KI im Kontext

Bevor wir uns die Risiken ansehen, die generative KI für die Privatsphäre der Benutzer in bestimmten Produkten, Dienstleistungen und Unternehmenspartnerschaften birgt, sollten wir einen Schritt zurücktreten und uns das gesamte Spektrum an Risiken von generativer KI ansehen. Moraes und Previtali haben in einem Beitrag für die IAPP einen datengetriebenen Ansatz zur Verfeinerung von Soloves “Taxonomie der Privatsphäre” aus dem Jahr 2006 gewählt und die 16 darin beschriebenen Privatsphärenrisiken auf 12 KI-spezifische Risiken reduziert.

Diese 12 Privatsphärenrisiken sind in Moraes und Previtalis revidierte Taxonomie enthalten:

• Überwachung: KI verschärft die Risiken von Überwachung, indem sie die Skala und Allgegenwärtigkeit der Datensammlung erhöht.
• Identifizierung: KI-Technologien ermöglichen die automatisierte Verknüpfung von Identitäten über verschiedene Datenquellen hinweg, was die Risiken im Zusammenhang mit der Exposition von persönlichen Identitäten erhöht.
• Aggregation: KI kombiniert verschiedene Teile von Daten über eine Person, um Rückschlüsse zu ziehen, was Risiken der Privatsphäreinvasion birgt.
• Phrenologie und Physiognomie: KI schließt Persönlichkeits- oder soziale Attribute aus physischen Merkmalen, eine neue Risikokategorie, die nicht in Soloves Taxonomie enthalten ist.
• Sekundäre Verwendung: KI verschärft die Verwendung von persönlichen Daten für andere Zwecke als ursprünglich beabsichtigt durch die Umwidmung von Daten.
• Ausschluss: KI verschlimmert das Versäumnis, Benutzern Informationen oder Kontrolle über die Verwendung ihrer Daten zu geben, durch undurchsichtige Datenpraktiken.
• Unsicherheit: KI-Datenanforderungen und -Speicherpraktiken bergen das Risiko von Datenlecks und unzureichendem Zugriff.
• Exposition: KI kann sensible Informationen, wie durch generative KI-Techniken, offenlegen.
• Verzerrung: KI-Technologien können realistische, aber gefälschte Inhalte erzeugen, was die Verbreitung von falschen oder irreführenden Informationen erhöht.
• Offenlegung: KI kann zur unangemessenen Weitergabe von Daten führen, wenn sie zusätzliche sensible Informationen aus Rohdaten ableitet.
• Erhöhte Zugänglichkeit: KI macht sensible Informationen für ein breiteres Publikum zugänglich als beabsichtigt.
• Eindringen: KI-Technologien dringen in die persönliche Sphäre oder Einsamkeit ein, oft durch Überwachungsmaßnahmen.

Dies ist ein ziemlich alarmierendes Lesen. Es ist wichtig zu beachten, dass diese Taxonomie, zu ihrem Verdienst, die Neigung von generativer KI berücksichtigt, Halluzinationen zu erzeugen – tatsächlich ungenaue Informationen zu erzeugen und mit Zuversicht zu präsentieren. Dieses Phänomen, obwohl es selten echte Informationen preisgibt, ist ebenfalls ein Privatsphärenrisiko. Die Verbreitung von falschen und irreführenden Informationen beeinträchtigt die Privatsphäre des Subjekts auf subtile Weise, die sich von der Verbreitung genauer Informationen unterscheidet.

Lassen Sie uns auf konkrete Beispiele für die Art und Weise eingehen, wie diese Privatsphärenrisiken im Kontext von realen KI-Produkten zum Tragen kommen.

Direkte Interaktionen mit textbasierten generativen KI-Systemen

Der einfachste Fall ist der, in dem ein Benutzer direkt mit einem generativen KI-System interagiert, wie z.B. ChatGPT, Midjourney oder Gemini. Die Interaktionen des Benutzers mit vielen dieser Produkte werden protokolliert, gespeichert und für RLHF (Reinforcement Learning from Human Feedback), überwachte Anweisungsfeinabstimmung und sogar die Pre-Training von anderen LLMs verwendet.

Eine Analyse der Datenschutzrichtlinien vieler dieser Dienste zeigt auch andere Datenfreigabemaßnahmen, die von ganz unterschiedlichen Zwecken getrieben werden, wie Marketing und Datenhandel. Dies ist eine ganz andere Art von Privatsphärenrisiko, das durch generative KI entsteht: Diese Systeme können als riesige Daten-Sammler charakterisiert werden, die Daten sammeln, die von Benutzern bereitgestellt werden, sowie solche, die durch ihre Interaktionen mit dem zugrunde liegenden LLM erzeugt werden.

Interaktionen mit eingebetteten generativen KI-Systemen

Einige Benutzer interagieren möglicherweise mit generativen KI-Schnittstellen, die in das Produkt eingebettet sind, das sie anscheinend verwenden. Der Benutzer ist sich möglicherweise bewusst, dass er ein “KI”-Feature verwendet, aber er ist weniger wahrscheinlich sich dessen bewusst, was dies in Bezug auf Datenschutzrisiken bedeutet. Was bei eingebetteten Systemen in den Vordergrund tritt, ist das mangelnde Bewusstsein dafür, dass persönliche Daten, die mit dem LLM geteilt werden, in die Hände von Entwicklern und Datenhändlern geraten können.

Es gibt zwei Grade von mangelndem Bewusstsein: Einige Benutzer sind sich bewusst, dass sie mit einem generativen KI-Produkt interagieren; und einige glauben, dass sie das Produkt verwenden, in das die generative KI eingebettet ist oder auf das zugegriffen wird. In beiden Fällen kann der Benutzer möglicherweise (und wahrscheinlich) technisch gesehen der Nutzungsbedingungen zugestimmt haben, die mit seiner Interaktion mit dem eingebetteten System verbunden sind.

Andere Partnerschaften, die Benutzer generativen KI-Systemen aussetzen

Einige Unternehmen integrieren oder verwenden generative KI-Schnittstellen in ihrer Software auf weniger offensichtliche Weise, wodurch Benutzer – und Informationen – mit Drittanbietern interagieren, ohne es zu merken. Glücklicherweise ist “KI” zu einem so effektiven Verkaufspunkt geworden, dass es unwahrscheinlich ist, dass ein Unternehmen solche Implementierungen geheim hält.

Ein weiteres Phänomen in diesem Zusammenhang ist der wachsende Gegenwind, den solche Unternehmen erlebt haben, nachdem sie versucht haben, Benutzer- oder Kundendaten mit generativen KI-Unternehmen wie OpenAI zu teilen. Das Datenentfernungsunternehmen Optery hat kürzlich eine Entscheidung rückgängig gemacht, Benutzerdaten an OpenAI auf opt-out-Basis zu senden, was bedeutet, dass Benutzer standardmäßig in das Programm eingeschrieben wurden.

Nicht nur waren Kunden schnell enttäuscht, sondern das Datenentfernungs-Service des Unternehmens wurde auch prompt von Privacy Guides’ Liste der empfohlenen Datenentfernungs-Dienste gestrichen. Zu Opterys Ehren sei gesagt, dass es seine Entscheidung schnell und transparent rückgängig gemacht hat, aber der allgemeine Gegenwind ist hier signifikant: Menschen beginnen, die Risiken zu erkennen, die mit dem Teilen von Daten mit “KI”-Unternehmen verbunden sind.

Der Fall Optery ist hier ein gutes Beispiel, da seine Benutzer in gewissem Sinne an der Spitze der wachsenden Skepsis gegenüber sogenannten KI-Implementierungen stehen. Die Art von Menschen, die einen Datenentfernungs-Service wählen, sind auch typischerweise diejenigen, die auf Änderungen in den Nutzungsbedingungen und Datenschutzrichtlinien achten.

Beweise für einen wachsenden Gegenwind gegen die Verwendung von generativer KI-Daten

Datenschutzbewusste Verbraucher waren nicht die einzigen, die Bedenken hinsichtlich generativer KI-Systeme und ihrer damit verbundenen Datenschutzrisiken geäußert haben. Auf legislativer Ebene hat die EU den Künstliche-Intelligenz-Gesetz, der die Risiken nach ihrer Schwere kategorisiert, wobei Datenschutz in den meisten Fällen das ausdrücklich oder stillschweigend genannte Kriterium für die Zuweisung von Schwere ist. Der Gesetzestext behandelt auch die Fragen der informierten Zustimmung, die wir zuvor diskutiert haben.

Die USA, die bekanntermaßen langsam sind, umfassende, bundesweite Datenschutzgesetze zu verabschieden, haben zumindest einige Schutzmechanismen dank der Exekutivverordnung 14110. Wiederum stehen Datenschutzbedenken im Vordergrund der Zwecke, die für die Verordnung genannt werden: “Der irrationale Einsatz [von KI-Technologien] könnte gesellschaftliche Schäden wie Betrug, Diskriminierung, Voreingenommenheit und Desinformation” – alles im Zusammenhang mit der Verfügbarkeit und Verbreitung persönlicher Daten – verschärfen.

Zurück auf Verbraucherebene ist es nicht nur besonders datenschutzbewusste Verbraucher, die sich gegen datenschutzinvasive KI-Implementierungen gewandt haben. Microsofts inzwischen berüchtigtes “KI-gesteuertes” Recall-Feature, das für sein Windows-11-Betriebssystem bestimmt war, ist ein prominentes Beispiel. Als das Ausmaß der Datenschutz- und Sicherheitsrisiken bekannt wurde, war der Gegenwind groß genug, um den Technologieriesen dazu zu bringen, zurückzurudern. Leider scheint Microsoft nicht aufgegeben zu haben, aber die anfängliche öffentliche Reaktion ist dennoch ermutigend.

Bleiben wir bei Microsoft, dessen Copilot-Programm für sowohl Datenschutz- als auch Datensicherheitsprobleme stark kritisiert wurde. Da Copilot auf GitHub-Daten (meist Quellcode) trainiert wurde, entstand auch Kontroversen um Microsofts angebliche Verletzungen von Programmierern und Entwicklern von Softwarelizenzvereinbarungen. Es sind Fälle wie dieser, in denen die Grenzen zwischen Datenschutz und geistigen Eigentumsrechten zu verschwimmen beginnen, wodurch dem Letzteren ein monetärer Wert verliehen wird – etwas, das nicht leicht zu tun ist.

Vielleicht ist der größte Hinweis darauf, dass KI zu einem roten Tuch in den Augen der Verbraucher wird, die lauwarme, wenn nicht gar misstrauische öffentliche Reaktion auf Apples anfänglichen KI-Start, insbesondere in Bezug auf Datenfreigabevereinbarungen mit OpenAI.

Die Stückwerk-Lösungen

Es gibt Schritte, die Gesetzgeber, Entwickler und Unternehmen unternehmen können, um einige der Risiken zu mildern, die durch generative KI entstehen. Diese sind spezielle Lösungen für bestimmte Aspekte des umfassenderen Problems, und keine davon ist ausreichend. Sie alle erfordern gesetzliche Unterstützung, um wirksam zu werden, was bedeutet, dass sie zum jetzigen Zeitpunkt nicht ausreichen.

• Datensparsamkeit. Die Menge der gesammelten und gespeicherten Daten zu minimieren, ist ein vernünftiges Ziel, aber es steht im direkten Widerspruch zu dem Wunsch der Entwickler von generativer KI nach Trainingsdaten.
• Transparenz. Angesichts des aktuellen Standes der Technik im Bereich ML ist dies möglicherweise nicht sogar in vielen Fällen technisch machbar. Einblick in die verarbeiteten Daten und wie sie bei der Generierung einer bestimmten Ausgabe verarbeitet werden, ist eine Möglichkeit, die Privatsphäre in Interaktionen mit generativer KI zu gewährleisten.
• Anonymisierung. Alle personenbezogenen Daten (PII), die nicht durch Datensparsamkeit aus den Trainingsdaten ausgeschlossen werden können, sollten anonymisiert werden. Das Problem ist, dass viele beliebte Anonymisierungs- und Pseudonymisierungstechniken leicht zu umgehen sind.
• Benutzerzustimmung. Die Benutzer müssen der Erfassung und Weitergabe ihrer Daten zustimmen, was jedoch zu leicht zu missbrauchen und zu sehr der Konsumiertheit ausgesetzt ist, um effektiv zu sein. Es ist die informierte Zustimmung, die hier benötigt wird, und die meisten Verbraucher, die ordnungsgemäß informiert sind, würden einer solchen Datenfreigabe nicht zustimmen, sodass die Anreize falsch ausgerichtet sind.
• Schutz von Daten während der Übertragung und in Ruhe. Ein weiterer Grundpfeiler von Datenschutz und Datensicherheit, der durch kryptografische und andere Mittel immer wirksamer gemacht werden kann. Generative KI-Systeme neigen jedoch dazu, Daten durch ihre Schnittstellen zu leaken, was dies nur teilweise löst.
• Durchsetzung von Urheberrecht und geistigem Eigentum im Kontext von sogenannter KI. ML kann in einer “Black Box” arbeiten, was es schwierig oder unmöglich macht, zu verfolgen, welche urheberrechtlich geschützten Materialien und geistigen Eigentumsrechte in welche generative KI-Ausgabe gelangen.
• Audits. Ein weiterer wichtiger Schutzmechanismus, der durch die Black-Box-Natur von LLMs und den generativen KI-Systemen, die sie unterstützen, behindert wird. Dieser inhärente Limitation wird durch die Closed-Source-Natur der meisten generativen KI-Produkte verstärkt, die Audits auf solche beschränkt, die zum Belieben des Entwicklers durchgeführt werden.

All diese Ansätze zum Problem sind gültig und notwendig, aber keiner ist ausreichend. Sie alle erfordern gesetzliche Unterstützung, um wirksam zu werden, was bedeutet, dass sie zum jetzigen Zeitpunkt nicht ausreichen.

Die klare Lösung

Die Lösung für die Privatsphärenrisiken, die durch generative KI entstehen, ist weder revolutionär noch aufregend, aber wenn man sie zu ihrem logischen Schluss führt, können die Ergebnisse beides sein. Die klare Lösung besteht darin, dass alltägliche Verbraucher das Wertbewusstsein für ihre Daten gegenüber Unternehmen und den unvergleichlichen Wert der Datenschutz für sich selbst entwickeln.

Verbraucher sind die Quellen und Motoren hinter den persönlichen Informationen, die die moderne Überwachungswirtschaft antreiben. Sobald eine kritische Masse von Verbrauchern beginnt, den Fluss von persönlichen Daten in die öffentliche Sphäre zu stoppen und von den Unternehmen, die mit persönlichen Daten handeln, Rechenschaft zu fordern, wird das System sich selbst korrigieren.

Das Ermutigende an generativer KI ist, dass sie, im Gegensatz zu aktuellen Werbe- und Marketingmodellen, nicht unbedingt persönliche Informationen auf irgendeiner Stufe beinhalten muss. Pre-Training- und Feinabstimmungsdaten müssen keine personenbezogenen Daten enthalten, und Benutzer müssen während ihrer Interaktionen mit generativen KI-Systemen nicht dieselben preisgeben.

Um ihre persönlichen Informationen aus den Trainingsdaten zu entfernen, können Menschen direkt zur Quelle gehen und ihre Profile von den verschiedenen Datenhändlern (einschließlich Personen-Suchseiten) entfernen, die öffentliche Aufzeichnungen sammeln und in den öffentlichen Verkehr bringen. Persönliche Datenentfernungs-Dienste automatisieren den Prozess, machen es schnell und einfach. Natürlich hat die Entfernung von persönlichen Daten aus den Datenbanken dieser Unternehmen viele andere Vorteile und keine Nachteile.

Menschen erzeugen auch persönliche Daten, wenn sie mit Software interagieren, einschließlich generativer KI. Um den Fluss dieser Daten zu stoppen, müssen Benutzer vorsichtiger sein, dass ihre Interaktionen aufgezeichnet, überprüft, analysiert und geteilt werden. Ihre Optionen, dies zu vermeiden, beschränken sich darauf, zu beschränken, was sie Online-Systemen preisgeben, und On-Device-, Open-Source-LLMs zu verwenden, wo immer möglich. Menschen tun im Allgemeinen bereits eine gute Arbeit, wenn sie ihre Diskussionen in der Öffentlichkeit modulieren – wir müssen nur diese Instinkte in den Bereich der generativen KI erweitern.