Die neue Ära der Exekutiv-Imitation wird nicht mit Exekutiven zu tun haben

Für die letzten paar Jahre war die größte digitale Bedrohung für Marken die Exekutiv-Imitation, oft durch gefälschte E-Mail-Adressen oder gefälschte soziale Medien-Konten ausgeführt. Heute stehen wir vor einem viel komplexeren und überzeugenderen Feind: AI-Agenten.

Der Aufstieg autonomer Agenten, die durch große Sprachmodelle (LLMs) angetrieben werden und mit wenig oder keiner menschlichen Intervention operieren, hat neue Möglichkeiten eröffnet, die an die Begeisterung in den frühen Web2- und Mobile-App-Ären erinnern.

Während truly autonome Agenten noch nicht ganz den Sprung von der Vision zur Realität gemacht haben, warnen Experten, dass sie möglicherweise bereits im nächsten Jahr in Unternehmensnetzwerken unterwegs sein könnten. Die Begeisterung und Adoption, die folgt, wird unweigerlich auf dem Radar von immer adaptierenden Cyberkriminellen landen, die autonome Agenten als neue Grenze für digitale Betrügereien sehen. Was passiert also, wenn diese Agenten nachgeahmt werden? Oder schlimmer noch, wenn sie die Nachahmer sind?

Genau wie Mobile-Apps einst mit einer Flut von gefälschten Versionen konfrontiert waren, die darauf abzielten, Anmeldedaten zu extrahieren oder Schadsoftware zu installieren, stehen AI-Agenten jetzt vor einer ähnlichen Welle von Kopien. Dieses Mal jedoch wird das Risiko schwerer zu erkennen sein und der Schaden möglicherweise umfassender.

Von Exekutiv-Imitation zu Agenten-Nachahmung

AI hat bereits neue Wege für Betrug und Täuschung eröffnet, die durch Stimmenklon-Scams gekennzeichnet sind, die die Sprechmuster eines Exekutivs mit nur wenigen Sekunden Audio nachahmen können, und kürzlich wurde von Echtzeit-Deepfake-Videos und Stimmen-Nachahmungen berichtet. Stellen Sie sich jetzt einen autonomen Agenten vor, der angeblich Ihr Unternehmen vertritt, der mit Kunden, Investoren oder Partnern interagiert. Dieser Agent könnte in eine Website eingebettet, in einen Chatbot integriert oder sogar per E-Mail interagieren und plausible, professionelle und völlig betrügerische Interaktionen anbieten.

Der Vorgänger der Kopie-Agenten liegt möglicherweise in “Jailbreaking“-Modellen, bei denen Bedrohungsakteure LLMs manipulieren, oft durch Prompt-Injektionen oder Multi-Turn-Techniken, um schädliche oder falsche Ausgaben zu produzieren. Aber das ist erst der Anfang.

Laut Daten von PitchBook haben AI-Unternehmen 2024 131,5 Milliarden Dollar eingesammelt, was mehr als ein Drittel der gesamten globalen Venture-Capital-Deals ausmacht. Der AI-Wettkampf, angetrieben von ambitionierten Gründern, hungrigen Investoren und begierigen Regierungen, wird die Fähigkeiten dieser aufstrebenden Technologie schnell beschleunigen, deren legitime Anwendungsfälle weiterhin für schädliche Zwecke ausgenutzt werden.

Generative AI hat und wird weiterhin die Schaffung solcher Agenten demokratisieren. Wenn Plattformen sie integrieren, gibt es wenige Schutzmechanismen, um ihre Echtheit zu überprüfen. Dies öffnet die Tür für eine neue Klasse von Nachahmung: nicht nur von Menschen, sondern auch von Software.

Ein Weckruf für begierige Marken und neugierige Verbraucher

Verbraucher und Marken verstehen erst langsam, was es bedeutet, einem Agenten zu vertrauen. Aber Vertrauen ist der Schlüssel zu jeder digitalen Interaktion, und wenn es gebrochen wird, können die Folgen verheerend sein.

Wie bei Deepfake-Videos und Stimmenklon-Scams beobachtet, können gefälschte Agenten verwendet werden, um:

• Zahlungen oder sensible Daten unter dem Deckmantel einer etablierten oder ansonsten vertrauenswürdigen Marke zu erbitten
• Benutzer über soziale Medien-DMs oder bezahlte Anzeigen auf schadsoftwareverseuchte Websites umzuleiten
• Das Vertrauen der Kunden zu untergraben und reputationsbedingten Schaden im großen Maßstab zu verursachen

Laut einem aktuellen Bericht der Federal Trade Commission Bericht waren Nachahmungs-Scams für fast 3 Milliarden Dollar an gemeldeten Verlusten in den USA allein verantwortlich – eine Zahl, die scharf ansteigen wird, wenn AI-Nachahmung noch nahtloser und skalierbarer wird.

Die Verbreitung von gefälschten Agenten: Anzeigen, Suchen und soziale Medien

Was besonders gefährlich ist, ist, wie Kopie-Agenten verbreitet werden. Sie benötigen keine eigenen Websites oder Domains, um Aufmerksamkeit zu erregen. Böse Akteure können und tun bezahlte Suchergebnisse und soziale Medien-Plattformen nutzen, um bösartige Klone vertrauenswürdiger Marken, Exekutiven oder Produkte zu bewerben. Ein gesponserter Link auf Google oder ein beworbener Beitrag auf Instagram ist beispielsweise ausreichend, um unvoreingenommene Benutzer zu einem gefälschten Agenten oder Support-Portal zu leiten.

Dieses ökosystemweite Risiko, bei dem böse Akteure legitimes digitales Eigentum kapern, um Scams zu erleichtern, erfordert eine neue Denkschule für Cybersicherheit. Es reicht nicht mehr aus, Ihr Netzwerk, Ihre Cloud oder die Anmeldedaten Ihrer Mitarbeiter zu sichern. Der Bedrohungsperimeter Ihrer Marke umfasst jetzt jedes Anzeigen-Netzwerk, jede Suchplattform und jedes Drittanbieter-Tool, mit dem Ihre Kunden interagieren.

Handeln, bevor es zu spät ist

Wir betreten eine Welt, in der die Grenze zwischen Menschen und Agenten immer mehr verschwimmt. Die Bedrohung ist nicht mehr nur die Nachahmung von Menschen, die derzeit aufgrund verfügbarer AI-Tools exponentiell wächst, sondern die Nachahmung digitaler Persönlichkeiten.

Wie können also Unternehmen vorbereitet sein?

1. Ihre digitale Präsenz kartieren: Wissen, wo Ihre Kunden mit Ihrem Unternehmen und Ihren Agenten interagieren – ob auf Ihrer Website, per API oder über Dritte – und diese Einstiegspunkte aktiv auf Nachahmungsversuche überwachen.
2. Emergierte Agenten-Ökosysteme überwachen: Wenn offene Agenten-Marktplätze und -Plattformen (wie Hugging Face Spaces) an Popularität gewinnen, sollten Sie wachsam sein, wenn ähnliche oder forkte Versionen Ihrer Tools an anderer Stelle auftauchen.
3. Zeit bis zur Erkennung (TTD) und Zeit bis zur Behebung (TTR) verkürzen: Lösungen nutzen, die es ermöglichen, Nachahmer schnell zu identifizieren und zu entfernen, insbesondere solche, die bezahlte Anzeigen oder soziale Plattformen missbrauchen, ist entscheidend, um den Schaden zu begrenzen.
4. Ihre Benutzer aufklären: Transparenz in Ihre Agenten-Erfahrungen einbauen. Ihre Benutzer sollten verstehen, wo und wie sie mit Ihren Tools interagieren sollten und wie sie Warnsignale erkennen können.
5. Agenten-Authentifizierungsprotokolle etablieren: Auf kryptographischer oder metadatenbasierter Verifizierung hinarbeiten, die den Ursprung und die Legitimität eines Agenten bestätigen kann.

Die Lösung liegt in der Sicherung des AI-Agenten-Ökosystems, nicht in dessen Vermeidung. Genau wie wir gelernt haben, Domains zu verifizieren, E-Mails zu authentifizieren und Mobile-Apps in den vergangenen Jahrzehnten zu überprüfen, müssen wir jetzt die gleiche Vigilanz auf die Welt der AI-Agenten ausdehnen. Wenn wir der Agenten-Nachahmung nicht jetzt vorbeugen, könnten wir uns bald mit einem vertraut aussehenden Assistenten unterhalten, der für die andere Seite arbeitet.