Ein Betreiber, Tausende gefälschte Romanzen: Die neue Ökonomie des KI-Betrugs

Wenn Technologieunternehmen über Sicherheit sprechen, konzentrieren sie sich meist auf externe Bedrohungen wie Datenschutzverletzungen, anfällige Infrastrukturen oder gestohlene Zugangsdaten. Für Unternehmen, deren Geschäftsmodell auf menschlicher Interaktion beruht, kann jedoch eine der größten Bedrohungen im Produkt selbst lauern – in Konten, von denen Nutzer glauben, dass sie echten Menschen gehören. Besonders relevant ist das beim Online-Dating, wo Menschen persönliche Informationen teilen, Zeit in Gespräche investieren und emotionale Bindungen zu Fremden aufbauen. Die Folgen von Betrug reichen über emotionale Bindungen zu Fremden hinaus. Sie beeinträchtigen das Vertrauen der Nutzer in die Plattform und in die Menschen, die sie dort kennenlernen.

Laut einer 2026 von Sumsub veröffentlichten Studie waren 84 % der befragten Nutzer von Dating-Apps im Vereinigten Königreich der Ansicht, dass KI-generierte Inhalte es erschwert hätten, potenziellen Matches zu vertrauen oder erfolgreich Dates zu haben; 2025 waren es 64 %. Weitere 61 % waren selbst schon durch gefälschte Profile getäuscht worden oder kannten jemanden, dem das passiert war. Diese Ergebnisse spiegeln die Wahrnehmung der Verbraucher wider, nicht die tatsächliche Verbreitung betrügerischer Konten. Dennoch zeigen sie ein Problem für eine Branche auf, deren Erfolg davon abhängt, dass Menschen bereit sind, mit Fremden in Kontakt zu treten. KI macht gefälschte Interaktionen kostengünstiger – und stellt damit Unternehmen, deren Geschäftsmodell auf echter menschlicher Interaktion beruht, vor eine grundlegende Herausforderung.

Wie KI die Ökonomie des Betrugs verändert hat

Liebesbetrug ist nichts Neues. Betrüger nutzen seit Jahrzehnten gestohlene Fotos, erfundene Identitäten und vorgefertigte Gespräche. Verändert haben sich die Kosten und der Aufwand, solche Betrugsmaschen in großem Maßstab zu betreiben. Früher erforderte es erhebliche personelle Ressourcen, Tausende überzeugende Profile zu pflegen. Betrüger mussten Gespräche führen, sich persönliche Details merken, über längere Zeit hinweg eine konsistente Identität wahren und auf Nutzer reagieren. Generative KI hat einen großen Teil dieses Aufwands verringert.

Im September 2026 veröffentlichte Anthropic eine Untersuchung zu einem Netzwerk aus mehr als 20 betrügerischen Dating-Apps, das von einem in China ansässigen Studio betrieben wurde. Innerhalb von zwei Wochen identifizierten Forschende mehr als 4.700 Interaktionen von KI-Personas mit mindestens 25.000 Menschen und rund 2,36 Millionen generierte Nachrichten. Bei dem Betrieb kamen KI-generierte Gespräche und menschliche Mitarbeitende zum Einsatz, die Interaktionen übernahmen, bei denen eine echte Person erforderlich war, darunter Live-Videoanrufe. Die Apps verschleierten, dass der Dienst automatisiert war, und präsentierten den Nutzern gleichzeitig vermeintlich echte Dating-Möglichkeiten. Es handelte sich um Apps, die auf Täuschung ausgelegt waren, und nicht um betrügerische Profile innerhalb etablierter Dating-Plattformen. Der Fall veranschaulicht jedoch, wie drastisch KI den Aufwand senken kann, der nötig ist, um überzeugende menschliche Interaktionen zu erzeugen.

Für seriöse Dating-Plattformen stellen ähnliche Technologien eine wachsende Herausforderung dar. Generierte Fotos, automatisierte Nachrichten, gestohlene Identitäten und Werkzeuge zum Umgehen von Verifizierungssystemen können dazu genutzt werden, betrügerische Konten anzulegen und zu pflegen. Es geht längst nicht mehr nur darum, verdächtige Profile zu erkennen. Plattformen müssen auf immer ausgefeiltere Angriffe reagieren, während die Kosten ihrer Durchführung weiter sinken. Das verändert auch die wirtschaftlichen Rahmenbedingungen für den Betrieb eines Dating-Unternehmens. Vertrauen ist sowohl ein Produkt- als auch ein Geschäftsproblem.

Betrug verursacht Geschäftskosten, die über den Aufwand für die Moderation hinausgehen. Gefälschte Konten erzeugen Registrierungen, Likes und Gespräche, die in Produktanalysen legitim wirken können. Dadurch können die Signale verzerrt werden, auf denen Empfehlungsalgorithmen und A/B-Tests beruhen. Hinzu kommt die wirtschaftliche Seite: Nutzer, die immer wieder auf gefälschte Profile stoßen, beginnen möglicherweise weniger Gespräche, sind weniger aktiv oder geben weniger Geld aus. Wie groß dieser Effekt ist, unterscheidet sich jedoch je nach Plattform und muss gemessen statt einfach vorausgesetzt werden. Beim Dating ist Betrugsbekämpfung daher Teil der Produktökonomie und nicht nur eine Sicherheitsfunktion. Und je kostengünstiger sich synthetische Aktivitäten durch KI erzeugen lassen, desto mehr wird die Unterscheidung zwischen echter und künstlich erzeugter Interaktion zu einer zentralen Produktentscheidung.

Das Dilemma für das Management: Sicherheit oder Wachstum

Eine strengere Verifizierung scheint eine naheliegende Reaktion auf immer ausgefeilteren Betrug zu sein. In der Praxis ist die Entscheidung jedoch komplizierter: Jeder zusätzliche Schritt bei der Registrierung erhöht die Einstiegshürde. Die Anforderung von Ausweisdokumenten, eine biometrische Verifizierung oder wiederholte Prüfungen können bestimmte Formen des Missbrauchs verhindern, aber auch legitime Nutzer davon abhalten, ihre Registrierung abzuschließen. Das wirkt sich unmittelbar auf die Kosten der Nutzergewinnung aus. Wenn sich mit demselben Marketingbudget weniger Nutzer registrieren und aktivieren lassen, steigen die Kosten pro abgeschlossener Registrierung.

Bei Dating-Apps können die Folgen über den Registrierungsprozess hinausgehen. Anders als viele andere Verbraucherprodukte sind Dating-Plattformen auf eine ausreichend hohe lokale Nutzerdichte angewiesen: Damit das Matching funktioniert, müssen sich in einer bestimmten Region genügend passende und aktive potenzielle Partner finden. Ein Verifizierungsprozess, der legitime Registrierungen unnötig einschränkt, kann daher den Aufbau eines lokalen Netzwerks verlangsamen, die Zahl der Matching-Möglichkeiten verringern und die Nutzerbindung beeinträchtigen. Gleichzeitig verursacht es weitere Kosten, wenn betrügerische Konten aktiv bleiben: durch die Beanspruchung von Infrastruktur, den Aufwand für die Moderation, verzerrte Empfehlungen und sinkendes Vertrauen der Nutzer. Übertriebene Sicherheitsmaßnahmen können ein Produkt schwer nutzbar machen. Unzureichende Sicherheit kann dazu führen, dass man ihm nicht mehr vertrauen kann.

Die Betrugsprävention sollte als Produkt- und Geschäftsentscheidung verstanden werden, nicht als isolierte technische Funktion. Ein risikobasierter Ansatz verbindet grundlegende Schutzmaßnahmen bei der Registrierung mit Verhaltensanalysen, Gerätesignalen, der Überwachung von Inhalten und einer stärkeren Verifizierung, sobald verdächtige Aktivitäten auftreten. Dennoch macht eine bestandene Verifizierung eine Person nicht vertrauenswürdig, denn die Anwesenheit nachzuweisen, bedeutet nicht, auch die Absichten zu kennen. Die Wirksamkeit sollte anhand mehrerer Dimensionen gemeinsam beurteilt werden, darunter die Erkennungsleistung, Fehlalarme, die Geschwindigkeit von Maßnahmen, Verifizierungskosten, Konversionsrate und Nutzerbindung. Eine bessere Erkennung, durch die fälschlicherweise viele echte Nutzer eingeschränkt werden, ist kein besseres Geschäftsergebnis. Der Datenschutz bringt eine weitere Dimension ins Spiel: Die Analyse von Kommunikation oder die Erhebung zusätzlicher Identitätssignale erfordert Transparenz, Datenminimierung und strenge Zugriffskontrollen. Entscheidend ist nicht, wie viele betrügerische Konten eine Plattform sperren kann, sondern wie gut sie Risiken senkt und zugleich eine gute Nutzungserfahrung für echte Nutzer bewahrt.

Jenseits der Verifizierung: Die Rolle der Gemeinschaft

Je überzeugender KI-generierte Unterhaltungen werden, desto drängender stellt sich eine Produktfrage: Sollten Dating-Plattformen sich ausschließlich auf digitale Interaktionen konzentrieren oder auch mehr Gelegenheiten schaffen, damit Begegnungen im echten Leben entstehen können? Bei Fledge erkunden wir ein Modell, das auf Kompatibilität basierendes Matching mit Veranstaltungen vor Ort und gemeinschaftlichen Erlebnissen verbindet. So soll sich der Schritt von der algorithmischen Entdeckung bis zum persönlichen Treffen natürlich anfühlen. Eine Veranstaltung beweist nicht, dass jemand vertrauenswürdig ist, und ersetzt auch keine Verifizierung. Sie schafft jedoch einen sozialen Kontext, den Profile und Chats nicht bieten können. Wir betrachten dies als vielversprechenden Ansatz, nicht als alleinige Lösung für KI-Betrug.

KI sollte Menschen dabei helfen, passende Partner zu finden, die Moderation unterstützen und verdächtiges Verhalten erkennen – nicht den Anschein von Beziehungen erwecken. Der Erfolg sollte daher nicht nur anhand aktiver Nutzer, Matches und Konversion gemessen werden, sondern auch anhand der Qualität der Interaktionen, ihrer Authentizität und der Ergebnisse, die Nutzer tatsächlich anstreben. Eine Plattform mit hoher Interaktionsrate, aber wenigen echten Verbindungen läuft Gefahr, auf das falsche Ergebnis hinzuoptimieren.

Vertrauen als Wettbewerbsvorteil

KI wird sowohl Betrüger als auch die Plattformen, die sich gegen sie zur Wehr setzen, weiter stärken; eine einzelne technische Lösung wird wahrscheinlich nicht ausreichen. Der Schutz erfordert kontinuierliche Anpassung, mehrere Erkennungsebenen sowie eine verantwortungsvolle und sorgfältige Abwägung geschäftlicher Zielkonflikte. Doch die Herausforderung geht über Cybersicherheit hinaus. Vertrauen prägt die Produktqualität, das Wachstum des Netzwerks, das Nutzerverhalten und die langfristigen Umsätze. Und je günstiger es wird, Interaktionen vorzutäuschen, desto wertvoller werden echte Begegnungen. Beim Dating ist Vertrauen kein Sicherheitsmerkmal – Vertrauen ist, nochmals gesagt, das Produkt. Die nächste Generation von Plattformen könnte weniger dadurch erfolgreich sein, dass sie mehr Interaktionen erzeugt, und mehr dadurch, dass sie ein Umfeld schafft, in dem Nutzer darauf vertrauen können, dass diese Interaktionen echt sind.