2026 wird das Jahr sein, in dem AI-Agenten in Unternehmen explodieren: Sind wir auf die Sicherheitsrisiken vorbereitet?

Unternehmen sind dabei, AI-Agenten zu adoptieren, aber sie haben nicht die Infrastruktur, um dies sicher zu tun. Agenten sind anders als AI-Tools: Sie arbeiten autonom, greifen kontinuierlich auf Daten zu und handeln mit Maschinengeschwindigkeit ohne Aufsicht. Das schafft völlig neue Risiken, auf die wir uns vorbereiten müssen.

Menschen verwenden bereits ihre eigenen AI-Agenten bei der Arbeit – ohne notwendigerweise ihren Vorgesetzten zu informieren. Wie stellen wir sicher, dass OpenClaw-Bots keine wichtigen Dateien löschen? Drei von vier großen Unternehmen werden bis Ende 2026 Multi-Agenten-Systeme adoptiert haben, laut Gartner. Wie stellen wir sicher, dass jeder dieser Agenten nicht Türen für Hacker öffnet, um uns auf neue Weise anzugreifen?

Die aktuelle Sicherheitsinfrastruktur ist darauf ausgelegt, bekannte, menschlich getaktete Bedrohungen zu bekämpfen. Das berücksichtigt nicht die Möglichkeit, dass Agenten unsere Unternehmenscode ohne unser Wissen manipulieren. Oder dass Bösewichte uns über Prompt-Injektionen angreifen: Anweisungen, die in Code oder Prompts versteckt sind und die AI dazu bringen, zum Beispiel sensible Informationen preiszugeben oder schädlichen Code auszuführen.

Die Wahrheit ist, dass Unternehmen hungriger sind als vorbereitet auf diese kommende Welle. Nur 29% der Organisationen stimmen “vollständig zu”, dass sie sichere AI-Schutzmaßnahmen haben, laut einer Microsoft-Umfrage.

Unternehmensleiter müssen mehrere Dinge tun.

1. Implementieren Sie AI-native Sicherheitsmaßnahmen im gesamten Unternehmen.
2. Behandeln Sie AI-Agenten mit denselben Sicherheitsmaßnahmen wie Menschen.
3. Erhöhen Sie die Sichtbarkeit dessen, was diese Agenten tun.

Indem Sie diese Kontrollen durchführen, kann die Sicherheit mit der Geschwindigkeit der Agenten Schritt halten und Innovationen ermöglichen, anstatt sie zu behindern.

Erstellen Sie AI-native Sicherheit

Im Februar veröffentlichte ein Meta-Sicherheitsforscher einen überraschenden Beitrag auf X: Ihr OpenClaw-Bot hatte begonnen, ihre E-Mails zu löschen und ignorierte ihre Befehle, dies zu stoppen. Als sie den Prozess manuell unterbrechen konnte, war der Schaden bereits angerichtet.

Das ist ein Beispiel für die unglaubliche Geschwindigkeit, mit der schädliche AI handeln kann, was menschliche Kontrollen unzureichend macht. Die Sicherheit muss genauso schnell und auf denselben Wegen wie die Agenten handeln.

Dies erfordert eine Erneuerung der Sicherheitsinfrastruktur des Unternehmens, nicht nur einfache Upgrades der bestehenden Tools. Mehrere Bereiche müssen an diesem systemweiten Wechsel der Tools beteiligt sein.

Um Situationen wie die des Meta-Forschers zu vermeiden, benötigen wir AI-Tools, die Anomalien in Echtzeit erkennen und automatisch reagieren. Zum Beispiel können Supervisor-Agenten eingesetzt werden, um hochrangige Aufgaben zu überprüfen, die von anderen Agenten ausgeführt werden. Agentic Threat Intelligence (ATI)-Tools können frühzeitig erkennen und automatisch auf potenzielle Angriffe reagieren.

Ein weiterer wichtiger Präventionsmechanismus ist die Sicherstellung der Sicherheit des tatsächlichen Modells, das auf Ihren Systemen bereitgestellt wird. Plattformen wie ProtectAI, TrojAI oder Aim Security können auf direkte Gefahren wie Prompt-Injektionen testen und AI-Tools einsetzen, um Code vor der Veröffentlichung zu reinigen.

Die Sicherstellung der Herkunft der Daten, auf die AI-Agenten zugreifen, ist ebenfalls wichtig. Tools wie Databricks Unity Catalog, Collibra oder Alation ermöglichen es Teams, Datenbewegungen zu regeln.

Wir können auch das Tampern mit unseren AI-Agenten verhindern, indem wir die physischen Geräte, die wir verwenden, um sie bereitzustellen, sichern. Plattformen wie CrowdStrike können helfen, den Missbrauch von AI-Anmeldeinformationen zu verhindern und abnormalen Verhalten zu erkennen.

Es ist wichtig, Grundsätze zu haben, die Ihre internen Betriebsabläufe sowie die Auswahl Ihrer Lieferanten regeln. Verwenden Sie bestehende Branchenframeworks als Leitfaden, wie Google SAIF, um eine sichere Architektur zu erstellen, AWS CAF-AI für AI-Governance oder NIST AI RMF für Compliance. Das OWASP Gen AI Security Project – ein Open-Source-Initiative zur Minderung der Risiken von AI – bietet relevante Sicherheitsempfehlungen für Unternehmen, die AI bereitstellen.

Behandeln Sie AI mit denselben Einschränkungen wie Menschen

Im letzten Jahr verwendete ein Investor einen Replit-AI-Agenten, um Code zu erstellen – bis am neunten Tag der Agent beschloss, Code aus einer Live-Produktionsdatenbank zu löschen, was 1.200 Unternehmen betraf.

Weil Agenten autonom handeln können, kann es katastrophal sein, wenn sie unüberwachten Zugriff auf eine breite Palette von Dokumenten, Daten und APIs haben. Ein Grund dafür ist, dass Unternehmen ihnen oft keine “Identität” zuweisen, wie wir es bei menschlichen Benutzern tun, was bedeutet, dass sie ihren Zugriff auf verschiedene Bereiche nicht verfolgen, überwachen und steuern können.

Unternehmen können reagieren, indem sie Identitäten für nicht-menschliche Benutzer zuweisen: Anbieter von Identitäts- und Zugriffsmanagement können genau steuern, auf welche Bereiche Agenten Zugriff haben, wie lange und welche riskanten Verhaltensweisen sie aufweisen. Dies reduziert den übermäßigen Zugriff auf Bereiche, die der Agent nicht benötigt, und begrenzt, was er in den Bereichen, in denen er tätig ist, tun kann.

Die Zuweisung von Identitäten zu Agenten reduziert auch die Bedrohung durch externe Akteure.

Als ein Team von Forschern schädliche Prompts in eine AI-Anwendung injizierte, die Rechtsverträge verwaltet, konnte ein Benutzer private Daten eines anderen Benutzers abrufen. Offensichtlich gab es keine sichere Trennung von Benutzerdaten, und die Autorisierung für diese Daten wurde der AI gewährt, auch wenn sie für den betreffenden Anwendungsfall nicht relevant war.

Die Festlegung von Grenzen für AI-“Identitäten” bedeutet, dass sie keinen umfassenden “immer-ein”-Zugriff haben. Zum Beispiel benötigen Agenten Autorisierung für bestimmte Funktionen oder erhalten Leseberechtigungen in bestimmten Bereichen. Indem wir dies tun, bleibt der Schaden begrenzt, selbst wenn ein AI-Agent gehackt oder von einem Bösewicht manipuliert wird.

Führungskräfte sollten auch ihre Teams über die Bedrohung durch Agenten, die heimlich handeln, aufklären. Das Risiko ist größer, wenn Mitarbeiter “Schatten”-AI-Agenten mit Arbeitsbereichen verbinden, ohne dass die Führungskräfte davon wissen und entsprechende Identitäten und Sicherheitsmaßnahmen bereitstellen. Darüber hinaus schafft ein Zero-Standing-Privileges-Ansatz (ZSP) eine Grundlinie von 0-Zugriff für jeden Agenten. Wenn also ein Mitarbeiter einen nicht genehmigten Schatten-Agenten verbindet, betritt er eine Umgebung, in der alle Türen geschlossen sind.

Haben Sie Augen auf Ihren Agenten

Obwohl wir die Analogie “AI ist eine Blackbox” kennen, sollte ihre Bereitstellung in Ihrem Unternehmen sehr wohl beobachtet und überwacht werden.

Um strenge Sicherheitsrichtlinien durchzusetzen, muss jeder Agent reglementiert werden: Sie sollten klar dokumentierte Eigentümer, Verantwortlichkeiten und Kontrollen haben, damit Sie ihre Pfade genau verfolgen können. Sie sollten kontinuierliche Telemetrie haben – Remote-Überwachung -, die das Verhalten des Agenten verfolgt und Ihre bestehenden Sicherheitswerkzeuge speist, damit sie Anomalien erkennen und adaptives Vertrauensscoring durchführen können.

Führungskräfte müssen diese neue Sicherheitsfront ernst nehmen und sicherstellen, dass verschiedene Teams für die Verwendung von AI-Agenten verantwortlich sind. Sie können neue Compliance-KPIs erstellen, wie “Anzahl der Datensätze mit verifizierter Herkunft”, “% der AI-Agenten mit verwalteten Identitäten” oder “AI-Vertrauenswert”.

Dies ist wichtig für die Prävention, aber es geht auch darum, auditable zu sein – sogar nicht-menschliche IDs benötigen eine Audit-Trail, damit eine Organisation compliant ist.

Wir verstehen im Allgemeinen, wie Menschen sich verhalten und welche Pfade sie in Arbeitsbereichen nehmen. Aber AI ist ein völlig neues Tier. Es gibt viel, was wir nicht über ihre Funktionsweise wissen. Einige Unternehmen wählen die kurzfristige Lösung, AI aus dem Büro zu verbannen – aber das wird das Problem nur verzögern oder dazu führen, dass Mitarbeiter Schatten-AI verwenden. Bereiten Sie Ihre Sicherheitsarchitektur proaktiv auf Agenten vor, die bereits allgegenwärtig werden.