So bewältigen Sie die Netzwerksicherheitsherausforderungen im Zusammenhang mit agentenbasierter KI

Agentische künstliche Intelligenz (KI) stellt die nächste Stufe der KI dar und verspricht, sogar die Fähigkeiten der generativen KI (GenAI) zu übertreffen. Im Gegensatz zu den meisten GenAI-Systemen, die auf menschliche Eingaben oder Kontrolle angewiesen sind, Agentische KI ist proaktiv Weil zur Lösung komplexer, mehrstufiger Probleme keine Benutzereingaben erforderlich sind. Durch die Nutzung eines digitalen Ökosystems aus großen Sprachmodellen (LLM), maschinellem Lernen (ML) und natürlicher Sprachverarbeitung (NLP) führt agentenbasierte KI Aufgaben autonom im Auftrag eines Menschen oder Systems aus und verbessert so Produktivität und Betriebsabläufe erheblich.

Obwohl sich die agentenbasierte KI noch in der Anfangsphase befindet, haben Experten bereits einige bahnbrechende Anwendungsfälle hervorgehoben. Stellen Sie sich beispielsweise eine Kundenserviceumgebung für eine Bank vor, in der ein KI-Agent mehr tut, als nur die Fragen eines Benutzers zu beantworten. Stattdessen wird der Agent Transaktionen oder Aufgaben wie das Überweisen von Geldern tatsächlich abschließen, wenn Sie dazu aufgefordert werden durch den Benutzer. Ein weiteres Beispiel könnte im Finanzbereich sein, wo agentische KI-Systeme menschliche Analysten unterstützen, indem sie autonom und schnell große Datenmengen analysieren, um Erstellen Sie prüfungsreife Berichte für datengestützte Entscheidungen.

Die unglaublichen Möglichkeiten der agentenbasierten KI sind unbestreitbar. Wie bei jeder neuen Technologie gibt es jedoch häufig Sicherheits-, Governance- und Compliance-Bedenken. Die Einzigartigkeit dieser KI-Agenten stellt Unternehmen vor zahlreiche Sicherheits- und Governance-Herausforderungen. Unternehmen müssen diese Herausforderungen bewältigen, um nicht nur die Vorteile der agentenbasierten KI zu nutzen, sondern auch die Netzwerksicherheit und -effizienz zu gewährleisten.

Welche Herausforderungen hinsichtlich der Netzwerksicherheit bringt agentenbasierte KI für Unternehmen mit sich?

KI-Agenten führen vier grundlegende Operationen aus. Die erste ist die Wahrnehmung und Datenerfassung. Diese Hunderte, Tausende und vielleicht Millionen von Agenten sammeln Daten von verschiedenen Orten – sei es aus der Cloud, vor Ort, vom Netzwerkrand usw. – und diese Daten können physisch von überall her stammen, anstatt von einem bestimmten geografischen Standort. Der zweite Schritt ist die Entscheidungsfindung. Sobald diese Agenten Daten gesammelt haben, nutzen sie KI- und ML-Modelle, um Entscheidungen zu treffen. Der dritte Schritt ist Aktion und Ausführung. Nach der Entscheidung handeln diese Agenten entsprechend, um diese umzusetzen. Der letzte Schritt ist das Lernen, bei dem diese Agenten die vor und nach ihrer Entscheidung gesammelten Daten nutzen, um entsprechende Anpassungen vorzunehmen.

Dabei benötigt die agentische KI Zugriff auf enorme Datensätze, um effektiv zu funktionieren. Agenten wird normalerweise in Datensysteme integriert, die vertrauliche Informationen verarbeiten oder speichern, wie Finanzunterlagen, Gesundheitsdatenbanken und andere personenbezogene Daten (PII). Leider erschwert agentenbasierte KI die Sicherung der Netzwerkinfrastruktur vor Schwachstellen, insbesondere bei Cloud-übergreifender Konnektivität. Sie bringt auch Herausforderungen hinsichtlich der Ausgangssicherheit mit sich, was es Unternehmen erschwert, sich vor Exfiltration sowie Verstößen gegen Befehls- und Kontrollmechanismen zu schützen. Sollte ein KI-Agent kompromittiert werden, könnten sensible Daten leicht durchsickern oder gestohlen werden. Ebenso könnten Agenten von böswilligen Akteuren gekapert und zur Generierung und Verbreitung von Desinformationen in großem Umfang missbraucht werden. Bei Verstößen drohen nicht nur finanzielle Strafen, sondern auch Reputationsschäden.

Wichtige Funktionen wie Beobachtbarkeit und Rückverfolgbarkeit können durch agentenbasierte KI beeinträchtigt werden, da es schwierig ist, nachzuverfolgen, auf welche Datensätze KI-Agenten zugreifen. das Risiko, dass Daten offengelegt werden oder unbefugte Benutzer darauf zugreifenEbenso kann das dynamische Lernen und die Anpassungsfähigkeit der agentenbasierten KI traditionelle Sicherheitsprüfungen behindern, die auf strukturierten Protokollen zur Nachverfolgung des Datenflusses basieren. Agentenbasierte KI ist zudem flüchtig, dynamisch und läuft kontinuierlich, was die Notwendigkeit optimaler Transparenz und Sicherheit rund um die Uhr erfordert. Die Skalierung stellt eine weitere Herausforderung dar. Die Angriffsfläche ist exponentiell gewachsen und erstreckt sich über das lokale Rechenzentrum und die Cloud hinaus bis an die Peripherie. Je nach Unternehmen kann agentenbasierte KI Tausende bis Millionen neuer Endpunkte an der Peripherie hinzufügen. Diese Agenten agieren an zahlreichen Standorten, ob in verschiedenen Clouds, vor Ort, an der Peripherie usw., wodurch das Netzwerk anfälliger für Angriffe wird.

Ein umfassender Ansatz zur Bewältigung der Sicherheitsherausforderungen der Agenten-KI

Unternehmen können die Sicherheitsherausforderungen der agentenbasierten KI bewältigen, indem sie in jedem der vier grundlegenden Betriebsschritte Sicherheitslösungen und Best Practices anwenden:

1. Wahrnehmung und Datenerfassung: Unternehmen benötigen eine durchgängig verschlüsselte Netzwerkverbindung mit hoher Bandbreite, damit ihre Agenten die enormen Datenmengen erfassen können, die für ihren Betrieb erforderlich sind. Bedenken Sie, dass diese Daten je nach Anwendungsfall sensibel oder sehr wertvoll sein können. Unternehmen sollten eine verschlüsselte Hochgeschwindigkeitsverbindungslösung einsetzen, um all diese Datenquellen zu verbinden und sensible und personenbezogene Daten zu schützen.
2. Entscheidung fällen: Unternehmen müssen sicherstellen, dass ihre KI-Agenten Zugriff auf die richtigen Modelle und die KI- und ML-Infrastruktur haben, um die richtigen Entscheidungen zu treffen. Durch die Implementierung einer Cloud-Firewall erhalten Unternehmen die Konnektivität und Sicherheit, die ihre KI-Agenten benötigen, um prüfbar auf die richtigen Modelle zuzugreifen.
3. Aktionsausführung: KI-Agenten ergreifen basierend auf der Entscheidung Maßnahmen. Unternehmen müssen jedoch identifizieren, welcher der Hunderten oder Tausenden von Agenten diese Entscheidung getroffen hat. Sie müssen außerdem wissen, wie ihre Agenten miteinander kommunizieren, um Konflikte oder „Roboter gegen Roboter“ zu vermeiden. Daher benötigen Unternehmen die Beobachtbarkeit und Nachvollziehbarkeit der Aktionen ihrer KI-Agenten. Beobachtbarkeit ist die Fähigkeit, interne Zustände und das Verhalten von KI-Agenten in Echtzeit zu verfolgen, zu überwachen und zu verstehen. Nachvollziehbarkeit ist die Fähigkeit, Daten, Entscheidungen und Aktionen eines KI-Agenten zu verfolgen und zu dokumentieren.
4. Lernen und Anpassung: Unternehmen investieren Millionen, wenn nicht Hunderte Millionen oder mehr, in die Optimierung ihrer Algorithmen, was den Wert und die Präzision dieser Agenten erhöht. Sollte ein Angreifer Zugriff auf dieses Modell erlangen und es exfiltrieren, könnten ihm alle Ressourcen innerhalb von Minuten zur Verfügung stehen. Unternehmen können ihre Investitionen durch Egress-Sicherheitsfunktionen schützen, die vor Exfiltration und Verstößen gegen die Befehls- und Kontrollmechanismen schützen.

Agentische KI sicher und verantwortungsvoll nutzen

Agentenbasierte KI birgt ein bemerkenswertes Potenzial und ermöglicht Unternehmen, neue Produktivitäts- und Effizienzniveaus zu erreichen. Doch wie bei jeder neuen KI-Technologie müssen Unternehmen Vorkehrungen zum Schutz ihrer Netzwerke und sensiblen Daten treffen. Sicherheit ist heute besonders wichtig, da hochentwickelte und gut organisierte, staatlich finanzierte Angreifer wie Salt Typhoon und Silk Typhoon weiterhin groß angelegte Angriffe durchführen.

Unternehmen sollten mit Cloud-Sicherheitsexperten zusammenarbeiten, um eine robuste, skalierbare und zukunftssichere Sicherheitsstrategie zu entwickeln, die den besonderen Herausforderungen der agentenbasierten KI gerecht wird. Diese Partner ermöglichen es Unternehmen, ihren KI-Agenten zu verfolgen, zu verwalten und zu sichern. Darüber hinaus vermitteln sie den Unternehmen das notwendige Bewusstsein, um die Compliance- und Governance-Standards zu erfüllen.