Im Jahr 2024 werden Deepfakes zum Mainstream. Hier erfahren Sie, wie Unternehmen sich schützen können

Seit mindestens der Wahl 2016, als Bedenken hinsichtlich der Desinformation in das öffentliche Bewusstsein eintraten, warnen Experten vor Deepfakes. Die Auswirkungen dieser Technologie sind – und bleiben – beängstigend. Die unkontrollierte Verbreitung von hyperrealistischen synthetischen Medien stellt eine Bedrohung für jeden dar – von Politikern bis hin zu normalen Menschen. In einer bereits von weit verbreitetem Misstrauen geprägten Umgebung versprechen Deepfakes, die Flammen nur noch weiter zu schüren.

Wie sich herausstellt, waren unsere Befürchtungen verfrüht. Die technischen Kenntnisse, die erforderlich sind, um tatsächlich Deepfakes herzustellen, sowie ihre oft minderwertige Qualität bedeuteten, dass sie in den letzten beiden Präsidentschaftswahlen nur ein minimales Problem darstellten.

Aber all dies ist gerade im Begriff, sich zu ändern – ändert sich bereits. In den letzten zwei Jahren ist die Technologie der generativen künstlichen Intelligenz in den Mainstream eingetreten und hat den Prozess der Erstellung von Deepfakes für den Durchschnittsverbraucher radikal vereinfacht. Diese gleichen Innovationen haben die Qualität von Deepfakes erheblich verbessert, sodass in einem Blindtest die meisten Menschen nicht in der Lage wären, ein bearbeitetes Video von dem echten zu unterscheiden.

In diesem Jahr haben wir insbesondere begonnen, Anzeichen dafür zu sehen, wie diese Technologie die Gesellschaft beeinflussen könnte, wenn nicht Maßnahmen ergriffen werden, um sie zu bekämpfen. Im letzten Jahr zum Beispiel ging ein von künstlicher Intelligenz generiertes Foto von Papst Franziskus, das einen ungewöhnlich stilvollen Mantel trug, viral und wurde von vielen als authentisch angesehen. Während dies auf einer Ebene wie ein harmloses Spiel erscheinen mag, zeigt es die gefährliche Potenz von Deepfakes und wie schwer es ist, Fehlinformationen zu stoppen, sobald sie sich verbreitet haben. Wir können erwarten, in den kommenden Monaten und Jahren noch weniger amüsante – und viel gefährlichere – Fälle von dieser Art von viralen Fälschungen zu finden.

Aus diesem Grund ist es unerlässlich, dass Organisationen aller Art – von den Medien bis zur Finanzwirtschaft, von Regierungen bis hin zu sozialen Medienplattformen – eine proaktive Haltung gegenüber der Erkennung von Deepfakes und der Überprüfung der Authentizität von Inhalten einnehmen. Eine Kultur des Vertrauens durch Sicherheitsmaßnahmen muss jetzt etabliert werden, bevor eine Flut von Deepfakes unsere gemeinsame Vorstellung von Realität wegspülen kann.

Das Deepfake-Gefahr verstehen

Bevor wir uns mit dem beschäftigen, was Organisationen tun können, um diese Welle von Deepfakes zu bekämpfen, ist es sinnvoll, genauer zu erläutern, warum Sicherheitsmaßnahmen notwendig sind. Typischerweise nennen diejenigen, die sich um Deepfakes sorgen, ihre potenzielle Auswirkung auf Politik und gesellschaftliches Vertrauen. Diese potenziellen Folgen sind extrem wichtig und sollten in keinem Gespräch über Deepfakes vernachlässigt werden. Es stellt sich jedoch heraus, dass der Aufstieg dieser Technologie möglicherweise verheerende Auswirkungen auf verschiedene Sektoren der US-Wirtschaft hat.

Nehmen wir beispielsweise die Versicherungswirtschaft. Derzeit beläuft sich der jährliche Versicherungsbetrug in den Vereinigten Staaten auf 308,6 Milliarden Dollar – eine Zahl, die etwa ein Viertel so groß ist wie die gesamte Branche. Gleichzeitig sind die Back-End-Operationen der meisten Versicherungsgesellschaften zunehmend automatisiert, wobei 70 % der Standardansprüche bis 2025 touchless sein sollen. Das bedeutet, dass Entscheidungen immer häufiger mit minimaler menschlicher Intervention getroffen werden: Selbstbedienung auf der Vorderseite und künstliche Intelligenz-gestützte Automatisierung auf der Rückseite.

Ironischerweise hat die Technologie, die diese Zunahme der Automatisierung ermöglicht hat – nämlich maschinelles Lernen und künstliche Intelligenz – auch ihre Ausbeutung durch böswillige Akteure garantiert. Es ist jetzt einfacher denn je für den Durchschnittsbürger, Ansprüche zu manipulieren – beispielsweise durch die Verwendung von generativen künstlichen Intelligenz-Programmen wie Dall-E, Midjourney oder Stable Diffusion, um ein Auto so darzustellen, als ob es mehr beschädigt wäre, als es tatsächlich ist. Es gibt bereits Apps, die speziell für diesen Zweck entwickelt wurden, wie zum Beispiel “Dude Your Car!”, die es Benutzern ermöglichen, künstliche Beulen in Fotos ihrer Fahrzeuge zu erstellen.

Das gleiche gilt für offizielle Dokumente, die jetzt leicht manipuliert werden können – mit Rechnungen, Unterwriting-Bewertungen und sogar Signaturen, die angepasst oder erfunden werden können. Dies ist ein Problem nicht nur für Versicherer, sondern auch für die gesamte Wirtschaft. Es ist ein Problem für Finanzinstitute, die die Authentizität einer Vielzahl von Dokumenten überprüfen müssen. Es ist ein Problem für Einzelhändler, die möglicherweise eine Beschwerde erhalten, dass ein Produkt defekt angekommen ist, begleitet von einem bearbeiteten Bild.

Unternehmen können einfach nicht mit diesem Grad an Unsicherheit arbeiten. Ein gewisses Maß an Betrug ist wahrscheinlich immer unvermeidlich, aber bei Deepfakes sprechen wir nicht über Betrug am Rande – wir sprechen über eine potenzielle epistemologische Katastrophe, in der Unternehmen keine klare Möglichkeit haben, Wahrheit von Fiktion zu unterscheiden und am Ende Milliarden von Dollar durch diese Verwirrung verlieren.

Feuer mit Feuer bekämpfen: Wie künstliche Intelligenz helfen kann

Was also kann getan werden, um dies zu bekämpfen? Vielleicht nicht überraschend liegt die Antwort in der Technologie, die Deepfakes ermöglicht. Wenn wir diesen Schaden stoppen wollen, bevor er noch mehr Momentum gewinnt, müssen wir Feuer mit Feuer bekämpfen. Künstliche Intelligenz kann helfen, Deepfakes zu generieren – aber sie kann auch automatisch und im großen Maßstab identifizieren.

Mit den richtigen künstlichen Intelligenz-Tools können Unternehmen automatisch bestimmen, ob ein bestimmtes Foto, Video oder Dokument manipuliert wurde. Durch die Einbindung von Dutzenden von verschiedenen Modellen zur Aufgabe der Fälschungserkennung kann künstliche Intelligenz Unternehmen automatisch mitteilen, ob ein bestimmtes Foto oder Video verdächtig ist. Wie die Tools, die Unternehmen bereits einsetzen, um den täglichen Betrieb zu automatisieren, können diese Tools im Hintergrund laufen, ohne das überlastete Personal zu belasten oder Zeit von wichtigen Projekten abzuziehen.

Wenn und wenn ein Foto als möglicherweise verändert identifiziert wird, kann das menschliche Personal darauf hingewiesen werden und das Problem direkt bewerten, unterstützt durch die Informationen, die von der künstlichen Intelligenz bereitgestellt werden. Mit Hilfe von Deep-Scan-Analyse kann sie Unternehmen warum sie glaubt, dass ein Foto wahrscheinlich bearbeitet wurde – zum Beispiel auf manuell geänderte Metadaten, die Existenz identischer Bilder im Internet, verschiedene fotografische Unregelmäßigkeiten usw.

Nichts davon soll die unglaublichen Fortschritte in der Technologie der generativen künstlichen Intelligenz der letzten Jahre herabsetzen, die tatsächlich nützliche und produktive Anwendungen in verschiedenen Branchen haben. Aber die Potenz – nicht zu erwähnen die Einfachheit – dieser aufkommenden Technologie garantiert fast ihre Ausbeutung durch diejenigen, die Organisationen manipulieren wollen, sei es aus persönlichem Gewinn oder um gesellschaftliches Chaos zu säen.

Organisationen können das Beste aus beiden Welten haben: die Produktivitätsvorteile von künstlicher Intelligenz ohne die Nachteile von allgegenwärtigen Deepfakes. Aber das erfordert ein neues Maß an Wachsamkeit, insbesondere angesichts der Tatsache, dass die Ausgaben der generativen künstlichen Intelligenz nur noch überzeugender, detaillierter und lebensnaher werden. Je früher Organisationen ihre Aufmerksamkeit auf dieses Problem richten, desto früher können sie die vollen Vorteile einer automatisierten Welt nutzen.