Was das EU-KI-Gesetz Gründern über Trainingsdaten nicht erzählt

Artikel 50 des EU-KI-Gesetzes verlangt, dass ein KI-System offenlegt, dass eine Person mit einer Maschine spricht. Es sagt nichts darüber, was mit diesem Gespräch passiert, nachdem die Offenlegung erfolgt ist.

Gründer, die Produkte auf Basis eines Grundmodells aufbauen, konzentrieren sich auf Genauigkeit und Preis. Die Frage, was mit den Daten ihrer Nutzer passiert, wenn sie ihr Produkt verlassen und von einem Drittanbieter-Modell verarbeitet werden, kommt selten während der Auswahl eines Anbieters auf.

Die Regelung trat am 2. August 2026 in Kraft, und Bußgelder für Nichtbefolgung können bis zu 15 Millionen Euro oder 3% des globalen Jahresumsatzes betragen, je nachdem, was höher ist. Speicherung und Training fallen vollständig außerhalb ihres Anwendungsbereichs. Wenn Ihre Anwendung Benutzergespräche an ein Drittanbieter-Modell sendet, werden die Datenpraktiken dieses Anbieters Teil Ihres Produkts, auch wenn Sie dies nicht beabsichtigt haben.

Die Branche standardmäßig auf Training und nicht auf Anfrage

Forscher am Stanford Institute for Human-Centered AI haben die Datenschutzrichtlinien von sechs großen US-amerikanischen KI-Entwicklern, darunter Amazon, Anthropic, Google, Meta, Microsoft und OpenAI, überprüft und festgestellt, dass alle von ihnen standardmäßig Kundengesprächsdaten zur Modellierung verwenden, einige davon diese Daten sogar unbefristet speichern. Die Leiterin der Studie, Jennifer King, war direkt, als sie gefragt wurde, ob Nutzer von KI-Chat-Systemen sich um ihre Privatsphäre sorgen sollten, und antwortete: “Absolut ja.” Training sollte daher als Standardannahme behandelt werden, es sei denn, die Dokumentation des Anbieters besagt etwas anderes. Die Details variieren jedoch von einem Anbieter zum anderen und verdienen vor der Entscheidung für eine Plattform eine genaue Überprüfung.

Anthropic, das einst für seine datenschutzfreundliche Herangehensweise gelobt wurde, änderte seine Verbraucherverträge, so dass Gespräche mit Claude nun standardmäßig zur Modellierung verwendet werden, wobei Benutzer opt-outen können. Dies zeigt, wie schnell sich die Trainingspolitik eines Anbieters ändern kann, auch wenn Datenschutz ursprünglich Teil seines Angebots war.

Bei anderen Modellen funktioniert das Opt-out nicht vollständig. Google speichert Gemini-Gespräche bis zu drei Jahre lang für die Überprüfung durch menschliche Annotatoren, und das Deaktivieren der Gemini-Apps-Aktivität ändert nichts daran. Sobald ein Gespräch für eine menschliche Überprüfung markiert wurde, bleibt es in Googles Systemen auf einer separaten Speicherungsbahn, unabhängig von dem, was der Benutzer danach tut.

Character.AI trainierte standardmäßig mit Benutzergesprächen und bot nur Benutzern in der EEA und im Vereinigten Königreich eine Opt-out-Möglichkeit, was es zu den datenschutzfreundlichsten Praktiken in diesem Bereich macht. In einem separaten Fall hatte das Unternehmen mit rechtlichen und reputationsbezogenen Herausforderungen zu kämpfen. Im Januar 2026 einigten sich Character.AI und Google darauf, eine Gruppe von Klagen beizulegen, in denen behauptet wurde, dass die Interaktionen des Chatbots mit Minderjährigen Schaden verursacht hätten, was nichts mit der Daten-Trainingspolitik des Unternehmens zu tun hatte. Google war als Mitbeklagter genannt, weil es Verbindungen zu den Gründern von Character.AI hatte, und obwohl keine Haftung anerkannt und die Bedingungen nicht offengelegt wurden, zeigt der Fall, dass die rechtliche Verantwortung, die mit einem KI-Anbieter verbunden ist, auch die Unternehmen erreichen kann, die ihn unterstützen.

Speicherfenster, Auslöser für menschliche Überprüfung und Zugriff von Subunternehmern sind selten außerhalb der Feinkörnigkeit einer Datenschutzrichtlinie zu finden. Unternehmen, die diese APIs integrieren, müssen häufig gründlich recherchieren, um herauszufinden, wie lange Benutzerdaten in der Überprüfung verbleiben oder wer sie sonst noch sehen kann. Fast keine dieser Details erreicht die Endbenutzer, was bedeutet, dass ein Unternehmen die Datenpraktiken eines Anbieters übernehmen und dieselbe Verletzlichkeit weitergeben kann, ohne dass eine der Parteien sich dessen bewusst ist.

Warum dies ein Gründerproblem und nicht nur eine politische Debatte ist

Wenn Ihr Produkt Benutzergespräche an ein Grundmodell mit standardmäßig aktiviertem Training sendet, haben Sie eine Datenschutzpolitik im Namen Ihrer Benutzer akzeptiert, ohne es ihnen mitzuteilen, auch wenn Sie dies nicht beabsichtigt haben. Artikel 50 verlangt nicht, dass Sie diese Entscheidung offenlegen, da er nur den Umstand abdeckt, dass sie mit einer KI sprechen.

Der Zugriff durch Dritte erweitert diese Verletzlichkeit weiter. Anbieter von Modellen geben regelmäßig die Annotation von Daten und die Sicherheitsüberprüfung an Subunternehmer aus. Im Mai 2026 eröffnete der texanische Generalstaatsanwalt Ken Paxton eine Untersuchung zu Metas KI-Brille, nachdem Datenannotatoren bei einem in Kenia ansässigen Subunternehmer namens Sama angeblich sagten, sie könnten Aufnahmen von privaten Momenten der Benutzer einsehen, einschließlich Besuchen im Badezimmer. Meta bestritt, dass dies das vollständige Bild seiner Praktiken widerspiegele, und die Untersuchung ist noch im Gange. Obwohl das Beispiel tragbare Kameras betrifft, kann das gleiche Problem auch auf konversationelle KI zutreffen. Eine Zusage, dass ein Unternehmen Ihre Daten nicht verkauft, sagt nichts darüber aus, wer sie intern lesen kann, bevor sie jemals in eine Trainingspipeline gelangen.

Was Sie prüfen sollten, bevor Sie einen Anbieter auswählen

Bevor Sie ein Grundmodell mit echten Benutzerdaten verbinden, sollten Sie einige Fragen beantworten.

Der Vertrag über die Datenverarbeitung ist ein guter Ausgangspunkt. Dieser Vertrag regelt, wie die Daten Ihrer Benutzer gehandhabt werden, und es lohnt sich, ihn vollständig zu lesen.

Der Vertrag selbst verdient besondere Aufmerksamkeit. Anbieter bieten oft strengere Trainingsbedingungen in Unternehmens- oder API-Verträgen an als in Verbraucher-Chat-Produkten, daher sollten Sie schriftlich bestätigen, welche Bedingungen für Ihre spezifische Integration gelten. Viele Unternehmen gehen fälschlicherweise davon aus, dass die Unternehmensgrade-Privatsphärensprache sie automatisch abdeckt.

Auch die Opt-out-Bestimmungen sind es wert, überprüft zu werden. Googles Gemini-Einstellungen zeigen, warum, da in diesem Modell das Deaktivieren der Aktivitätsverfolgung die menschliche Überprüfung nicht stoppt. Ein Anbieter sollte klar sagen, ob ein Opt-out das Training, die menschliche Überprüfung oder beides stoppt.

Schließlich sollten Sie kartieren, wohin die Daten unterhalb des Anbieters fließen. Annotation und Sicherheitsüberprüfung werden häufig ausgelagert, und die Datenschutzversprechen eines Anbieters gelten nicht automatisch für jeden Subunternehmer in dieser Kette.

Keine dieser Fragen sollte als einmalige Übung behandelt werden. Die Bedingungen der Anbieter ändern sich, manchmal schnell, und der Anbieter, mit dem Sie letztes Jahr unterschrieben haben, muss nicht unbedingt nach denselben Regeln arbeiten, die heute gelten.

Der Markt kann einen Standard setzen, den die Regulierung noch nicht erreicht hat

Artikel 50 wird wahrscheinlich nicht das letzte Wort zur KI-Datengovernance der EU sein, und Gründer sollten nicht auf die nächste Runde der Regulierung warten, um die Lücke zu schließen, die sie hinterlassen hat. Unternehmen können dieser Lücke jetzt vorbeugen, indem sie eine explizite und sichtbare Opt-in für die Trainingsdaten ihrer Benutzer erstellen. Es gibt eine klare Grenze zwischen der Verbesserung eines Modells und dem stillschweigenden Ausnutzen des Vertrauens der Benutzer. Viele KI-Dienste überqueren diese Grenze noch immer, indem sie Gespräche zur Trainingsdatenerfassung verwenden, ohne um ausdrückliche, informierte Zustimmung zu bitten. Gründer, die diese Grenze jetzt selbst ziehen, müssen sich später nicht an die Einhaltung anpassen.

Es ist ein Schritt mit Präzedenzfall. Verschlüsselte Messaging-Apps und Passwort-Manager haben nicht auf Regulierungsbehörden gewartet, um starke Standardwerte festzulegen. Sie haben diese Entscheidungen selbst getroffen und in eine Marktposition umgesetzt. KI-Produkte haben die gleiche Chance. Die Gründer, die diese Grenze vor dem verpflichtenden Zeitpunkt ziehen, sind diejenigen, denen das nächste sensible Gespräch ihrer Benutzer anvertraut wird.