Im Jahr 2024 werden Deepfakes zum Mainstream. Hier erfahren Sie, wie Unternehmen sich schützen können

Seit mindestens der Wahl 2016, als Bedenken hinsichtlich der Desinformation in das öffentliche Bewusstsein eintraten, warnen Experten vor Deepfakes. Die Auswirkungen dieser Technologie sind – und bleiben – beängstigend. Die unkontrollierte Verbreitung hyperrealistischer synthetischer Medien stellt eine Bedrohung für jeden dar – von Politikern bis hin zu ganz normalen Menschen. In einer bereits von weit verbreitetem Misstrauen geprägten Umgebung versprachen Deepfakes, die Flammen noch weiter zu schüren.

Wie sich herausstellte, waren unsere Befürchtungen verfrüht. Die notwendigen technischen Kenntnisse, um tatsächlich Deepfakes herzustellen, sowie deren oft schlechte Qualität bedeuteten, dass sie für mindestens die letzten beiden Präsidentschaftswahlen nur ein minimales Problem darstellten.

Aber all dies ist jetzt im Begriff, sich zu ändern – ändert sich bereits. In den letzten zwei Jahren ist die generative KI-Technologie in den Mainstream eingetreten und hat den Prozess der Erstellung von Deepfakes für den durchschnittlichen Verbraucher radikal vereinfacht. Diese gleichen Innovationen haben die Qualität von Deepfakes erheblich verbessert, so dass in einem Blindtest die meisten Menschen nicht in der Lage wären, ein bearbeitetes Video von dem echten zu unterscheiden.

In diesem Jahr sehen wir insbesondere Anzeichen dafür, wie diese Technologie die Gesellschaft beeinflussen könnte, wenn keine Anstrengungen unternommen werden, um sie zu bekämpfen. Im letzten Jahr zum Beispiel ging ein künstlich erstelltes Foto von Papst Franziskus, das ihn in einem ungewöhnlich stilvollen Mantel zeigt, viral und wurde von vielen als authentisch angesehen. Während dies auf einer Ebene wie ein harmloses Spiel erscheinen mag, zeigt es die gefährliche Potenz dieser Deepfakes und wie schwer es ist, Fehlinformationen zu stoppen, sobald sie sich verbreitet haben. Wir können erwarten, in den kommenden Monaten und Jahren noch weniger amüsante – und viel gefährlichere – Fälle dieser Art von viralen Fälschungen zu finden.

Aus diesem Grund ist es unerlässlich, dass Organisationen aller Art – von den Medien bis zur Finanzwirtschaft, von Regierungen bis hin zu sozialen Medienplattformen – eine proaktive Haltung gegenüber der Erkennung von Deepfakes und der Überprüfung der Inhaltsauthentizität einnehmen. Eine Kultur des Vertrauens durch Schutzmaßnahmen muss jetzt etabliert werden, bevor eine Flut von Deepfakes unsere gemeinsame Wahrnehmung der Realität wegspülen kann.

Das Deepfake-Gefährdungspotenzial verstehen

Bevor wir uns mit dem beschäftigen, was Organisationen tun können, um diese Welle von Deepfakes zu bekämpfen, ist es sinnvoll, genauer zu erläutern, warum Schutztools notwendig sind. Typischerweise nennen diejenigen, die sich um Deepfakes sorgen, deren potenzielle Auswirkungen auf Politik und gesellschaftliches Vertrauen. Diese potenziellen Konsequenzen sind extrem wichtig und sollten in keiner Diskussion über Deepfakes vernachlässigt werden. Es stellt sich jedoch heraus, dass der Aufstieg dieser Technologie möglicherweise verheerende Auswirkungen auf multiple Sektoren der US-Wirtschaft hat.

Nehmen wir beispielsweise die Versicherungswirtschaft. Derzeit summiert sich der jährliche Versicherungsbetrug in den Vereinigten Staaten auf 308,6 Milliarden Dollar – eine Zahl, die etwa einem Viertel der gesamten Branche entspricht. Gleichzeitig werden die Back-End-Operationen der meisten Versicherungsunternehmen zunehmend automatisiert, wobei 70 % der Standardansprüche bis 2025 voraussichtlich berührungslos abgewickelt werden. Das bedeutet, dass Entscheidungen zunehmend mit minimaler menschlicher Intervention getroffen werden: Selbstbedienung auf der Vorderseite und durch KI-facilitierte Automatisierung auf der Rückseite.

Ironischerweise hat die Technologie, die diese Zunahme der Automatisierung ermöglicht hat – also maschinelles Lernen und künstliche Intelligenz – auch ihre Ausbeutung durch böswillige Akteure garantiert. Es ist jetzt einfacher denn je für den durchschnittlichen Menschen, Ansprüche zu manipulieren – beispielsweise durch den Einsatz generativer KI-Programme wie Dall-E, Midjourney oder Stable Diffusion, um ein Auto mehr beschädigt aussehen zu lassen, als es tatsächlich ist. Es gibt bereits Apps, die speziell für diesen Zweck entwickelt wurden, wie z. B. Dude Your Car!, die es Benutzern ermöglichen, künstliche Beulen in Fotos ihrer Fahrzeuge zu erstellen.

Das gleiche gilt für offizielle Dokumente, die jetzt leicht manipuliert werden können – mit Rechnungen, Underwriting-Bewertungen und sogar Signaturen, die ganz oder teilweise geändert oder erfunden werden. Dieses Problem ist nicht nur für Versicherer ein Problem, sondern auch für die gesamte Wirtschaft. Es ist ein Problem für Finanzinstitute, die die Echtheit einer Vielzahl von Dokumenten überprüfen müssen. Es ist ein Problem für Einzelhändler, die möglicherweise eine Beschwerde erhalten, dass ein Produkt defekt angekommen ist, begleitet von einem bearbeiteten Bild.

Unternehmen können einfach nicht mit diesem Grad an Unsicherheit operieren. Ein gewisses Maß an Betrug ist wahrscheinlich immer unvermeidlich, aber bei Deepfakes sprechen wir nicht über Betrug am Rande – wir sprechen über eine potenzielle epistemologische Katastrophe, bei der Unternehmen keine klare Möglichkeit haben, Wahrheit von Fiktion zu unterscheiden und dadurch Milliarden von Dollar durch diese Verwirrung verlieren.

Feuer mit Feuer bekämpfen: Wie KI helfen kann

Was also kann getan werden, um dies zu bekämpfen? Vielleicht nicht überraschend liegt die Antwort in der Technologie, die Deepfakes ermöglicht. Wenn wir diesen Schaden stoppen wollen, bevor er noch mehr Momentum gewinnt, müssen wir Feuer mit Feuer bekämpfen. KI kann helfen, Deepfakes zu generieren – aber sie kann auch, zum Glück, helfen, sie automatisch und im großen Maßstab zu identifizieren.

Mit den richtigen KI-Tools können Unternehmen automatisch bestimmen, ob ein bestimmtes Foto, Video oder Dokument manipuliert wurde. Durch die Einbindung von Dutzenden unterschiedlicher Modelle zur Aufgabe der Fälschungserkennung kann KI Unternehmen automatisch mitteilen, ob ein bestimmtes Foto oder Video verdächtig ist. Wie die Tools, die Unternehmen bereits einsetzen, um den täglichen Betrieb zu automatisieren, können diese Tools im Hintergrund laufen, ohne das bereits überlastete Personal zu belasten oder Zeit von wichtigen Projekten abzuziehen.

Wenn und wenn ein Foto als möglicherweise verändert identifiziert wird, kann das menschliche Personal darauf hingewiesen werden und das Problem direkt bewerten, unterstützt durch die Informationen, die von der KI bereitgestellt werden. Durch eine tiefe Analyse kann sie Unternehmen warum sie glaubt, dass ein Foto wahrscheinlich manipuliert wurde, aufzeigen – beispielsweise durch manuell geänderte Metadaten, die Existenz identischer Bilder im Internet, verschiedene fotografische Unregelmäßigkeiten usw.

Nichts davon soll die unglaublichen Fortschritte in der generativen KI-Technologie der letzten Jahre herabwürdigen, die tatsächlich nützliche und produktive Anwendungen in verschiedenen Branchen haben. Aber die bloße Potenz – nicht zu erwähnen, die Einfachheit – dieser aufkommenden Technologie garantiert fast ihre Ausbeutung durch diejenigen, die Organisationen manipulieren möchten, sei es für persönlichen Gewinn oder um gesellschaftliches Chaos zu säen.

Organisationen können das Beste aus beiden Welten haben: die Produktivitätsvorteile von KI ohne die Nachteile allgegenwärtiger Deepfakes. Aber das erfordert ein neues Maß an Wachsamkeit, insbesondere angesichts der Tatsache, dass die Ausgaben der generativen KI nur noch überzeugender, detaillierter und lebensechter werden. Je früher Organisationen ihre Aufmerksamkeit auf dieses Problem richten, desto früher können sie die vollen Vorteile einer automatisierten Welt nutzen.