Die neue Ära der Executive-Impersonation wird nicht mit Exekutiven zu tun haben

Im Laufe der letzten Jahre war die größte digitale Bedrohung für Marken die Executive-Impersonation, oft durch gefälschte E-Mail-Adressen oder gefälschte soziale Medien-Konten ausgeführt. Heute stehen wir vor einem viel komplexeren und überzeugenderen Feind: AI-Agents.

Der Aufstieg autonomer Agenten, die von großen Sprachmodellen (LLMs) angetrieben werden und mit wenig oder keiner menschlichen Intervention operieren, hat neue Möglichkeiten eröffnet, die den Aufregungen der frühen Web2- und Mobile-App-Ära ähneln.

Obwohl truly autonome Agenten noch nicht ganz den Sprung von der Vision zur Realität gemacht haben, warnen Experten, dass sie möglicherweise bereits nächstes Jahr in Unternehmensnetzwerken unterwegs sein könnten. Die Aufregung und Adoption, die folgt, wird unweigerlich auf das Radar von immer adaptierenden Cyberkriminellen fallen, die autonome Agenten als neue Grenze für digitale Betrügereien sehen. Was passiert also, wenn diese Agenten impersoniert werden? Oder schlimmer noch, wenn sie die Impersonatoren sind?

Genau wie mobile Apps einst von einer Flut von gefälschten Versionen heimgesucht wurden, die darauf abzielten, Login-Daten zu extrahieren oder Schadsoftware zu installieren, stehen AI-Agents jetzt vor einer ähnlichen Welle von Kopien. Dieses Mal jedoch wird das Risiko schwerer zu erkennen sein und der Schaden möglicherweise umfassender.

Von Executive-Impersonation zu Agenten-Imitation

AI hat bereits neue Wege der Betrügerei und Täuschung eröffnet, die durch Stimmenklon-Scams gekennzeichnet sind, die die Sprechmuster eines Exekutivs mit nur wenigen Sekunden Audio nachahmen können, und kürzlich wurde von Echtzeit-Deepfake-Videos und Stimmen-Imitationen berichtet. Stellen Sie sich jetzt einen autonomen Agenten vor, der angeblich Ihr Unternehmen vertritt, der mit Kunden, Investoren oder Partnern interagiert. Dieser Agent könnte in eine Website eingebettet, in einen Chatbot integriert oder sogar per E-Mail interagieren und plausible, professionelle und völlig betrügerische Interaktionen anbieten.

Der Vorgänger der Kopie-Agentsen liegt möglicherweise in “Jailbreaking“-Modellen, bei denen Bedrohungsakteure LLMs manipulieren, oft durch Prompt-Injektionen oder Multi-Turn-Techniken, um schädliche oder falsche Ausgaben zu produzieren. Aber das ist erst der Anfang.

Laut Daten von PitchBook haben AI-Unternehmen 2024 131,5 Milliarden Dollar eingesammelt, was mehr als einem Drittel der globalen Venture-Capital-Deals entspricht. Der AI-Wettlauf, der von ambitionierten Gründern, hungrigen Investoren und eifrigen Regierungen angetrieben wird, wird schnell die Fähigkeiten dieser aufstrebenden Technologie beschleunigen, deren legitime Anwendungsfälle weiterhin für schädliche Zwecke ausgenutzt werden.

Generative AI hat und wird weiterhin die Schaffung solcher Agenten demokratisieren. Wenn Plattformen um die Integration dieser Agenten wetteifern, gibt es wenige Schutzmechanismen, um ihre Echtheit zu überprüfen. Dies öffnet die Tür zu einer neuen Klasse von Imitation: nicht nur von Personen, sondern auch von Software.

Ein Weckruf für eifrige Marken und neugierige Verbraucher

Verbraucher und Marken gleichermaßen beginnen erst, zu verstehen, was es bedeutet, einem Agenten zu vertrauen. Aber Vertrauen ist der Dreh- und Angelpunkt jeder digitalen Interaktion, und wenn es gebrochen wird, können die Folgen verheerend sein.

Wie bei Deepfake-Videos und Stimmenklon-Scams können gefälschte Agenten verwendet werden, um:

• Zahlungen oder sensible Daten unter dem Deckmantel einer etablierten oder ansonsten vertrauenswürdigen Marke zu erbitten
• Benutzer über soziale Medien-DMs oder bezahlte Anzeigen zu schädlichen Websites umzuleiten
• Das Vertrauen der Kunden zu untergraben und reputationsbedingten Schaden im großen Maßstab zu verursachen

Laut einem aktuellen Bericht der Federal Trade Commission warnten Impersonation-Scams für fast 3 Milliarden Dollar an gemeldeten Verlusten in den USA allein – eine Zahl, die voraussichtlich stark ansteigen wird, wenn AI-Imitationen noch überzeugender und skalierbarer werden.

Die Verbreitung von gefälschten Agenten: Anzeigen, Suchen und Soziale Medien

Was besonders gefährlich ist, ist die Art und Weise, wie Kopie-Agentsen verbreitet werden. Sie benötigen keine eigenen Websites oder Domains, um Fuß zu fassen. Schurken können und tun bezahlte Suchergebnisse und soziale Medien-Plattformen nutzen, um schädliche Klone von vertrauenswürdigen Marken, Exekutiven oder Produkten zu bewerben. Ein gesponserter Link auf Google oder ein beworbener Beitrag auf Instagram ist beispielsweise ausreichend, um unvoreingenommene Benutzer zu einem gefälschten Agenten oder Support-Portal umzuleiten.

Dieses ökologische Risiko, bei dem Schurken legitimes digitales Eigentum kapern, um Betrügereien zu erleichtern, erfordert eine neue Denkweise für die Cybersicherheit. Es reicht nicht mehr aus, Ihr Netzwerk, Ihre Cloud oder die Anmeldedaten Ihrer Mitarbeiter zu sichern. Der Schutzradius Ihrer Marke umfasst jetzt jeden Ad-Netzwerk, jede Suchplattform und jedes Dritt-Tool, mit dem Ihre Kunden interagieren.

Vorbeugung, bevor es zu spät ist

Wir betreten eine Welt, in der die Grenze zwischen Menschen und Agenten immer mehr verschwimmt. Die Bedrohung ist nicht länger nur die Imitation von Personen, die derzeit aufgrund der verfügbaren AI-Tools exponentiell wächst, sondern die Imitation von digitalen Persönlichkeiten.

Wie können Unternehmen also vorbereitet sein?

1. Ihre digitale Präsenz kartieren: Wissen Sie, wo Ihre Kunden mit Ihrem Unternehmen und Ihren Agenten interagieren – ob auf Ihrer Website, über API oder über Dritte – und überwachen Sie diese Eingangspunkte aktiv auf Imitationsversuche.
2. Die aufkommenden Agenten-Ökosysteme überwachen: Wenn offene Agenten-Marktplätze und -Plattformen (wie Hugging Face Spaces) an Popularität gewinnen, seien Sie wachsam gegenüber Lookalikes oder Forks Ihrer Tools, die woanders auftauchen.
3. Die Zeit bis zur Erkennung (TTD) und die Zeit bis zur Behebung (TTR) verkürzen: Verwenden Sie Lösungen, die es ermöglichen, Impersonatoren schnell zu identifizieren und zu entfernen, insbesondere solche, die bezahlte Anzeigen oder soziale Plattformen missbrauchen, um den Schaden zu begrenzen.
4. Ihre Benutzer aufklären: Bauen Sie Transparenz in Ihre Agenten-Erfahrungen ein. Ihre Benutzer sollten verstehen, wo und wie sie mit Ihren Tools interagieren sollten und wie sie Warnsignale erkennen können.
5. Authentifizierungsprotokolle für Agenten etablieren: Arbeiten Sie an kryptografischen oder metadatenbasierten Verifizierungen, die die Herkunft und Legitimität eines Agenten bestätigen können.

Die Lösung liegt in der Sicherung des AI-Agents-Ökosystems, nicht in der Vermeidung. Genau wie wir gelernt haben, Domains zu verifizieren, E-Mails zu authentifizieren und mobile Apps in den letzten Jahrzehnten zu überprüfen, müssen wir nun die gleiche Vigilanz auf die Welt der AI-Agents ausdehnen. Wenn wir nicht vor der Agenten-Imitation warnen, bevor es zu spät ist, könnten wir uns bald mit einem vertraut aussehenden Assistenten unterhalten, der für die andere Seite arbeitet.