Wie man die Netzwerksicherheitsherausforderungen im Zusammenhang mit Agentic AI angeht

Agentic-Künstliche Intelligenz (KI) stellt die nächste Grenze der KI dar und verspricht, sogar die Fähigkeiten der generativen KI (GenKI) zu übertreffen. Im Gegensatz zu den meisten GenKI-Systemen, die auf menschliche Eingaben oder Überwachung angewiesen sind, ist Agentic-KI proaktiv, da sie keine Benutzereingabe benötigt, um komplexe, mehrschrittige Probleme zu lösen. Durch die Nutzung eines digitalen Ökosystems von großen Sprachmodellen (LLM), maschinellem Lernen (ML) und natürlicher Sprachverarbeitung (NLP) führt Agentic-KI Aufgaben autonom im Auftrag eines Menschen oder Systems aus, wodurch die Produktivität und Effizienz massiv verbessert werden.

Obwohl Agentic-KI noch in den Anfängen steckt, haben Experten einige bahnbrechende Einsatzmöglichkeiten hervorgehoben. Betrachten Sie beispielsweise eine Kundenbetreuungsumgebung für eine Bank, in der ein KI-Agent mehr tut, als nur die Fragen eines Benutzers zu beantworten. Stattdessen wird der Agent tatsächlich Transaktionen oder Aufgaben wie die Übertragung von Geldern ausführen, wenn der Benutzer dazu auffordert. Ein weiteres Beispiel könnte in einer Finanzumgebung sein, in der Agentic-KI-Systeme menschlichen Analysten helfen, indem sie große Datenmengen autonom und schnell analysieren, um prüffähige Berichte für datenbasierte Entscheidungsfindung zu erstellen.

Die unglaublichen Möglichkeiten von Agentic-KI sind unbestreitbar. Allerdings gibt es, wie bei jeder neuen Technologie, oft Sicherheits-, Governance- und Compliance-Bedenken. Die einzigartige Natur dieser KI-Agenten stellt mehrere Sicherheits- und Governance-Herausforderungen für Organisationen dar. Unternehmen müssen diese Herausforderungen angehen, um nicht nur die Vorteile von Agentic-KI zu nutzen, sondern auch die Netzwerksicherheit und Effizienz zu gewährleisten.

Welche Netzwerksicherheitsherausforderungen verursacht Agentic-KI für Organisationen?

KI-Agenten haben vier grundlegende Operationen. Die erste ist Wahrnehmung und Datensammlung. Diese Hunderte, Tausende oder sogar Millionen von Agenten sammeln und sammeln Daten aus verschiedenen Quellen, sei es in der Cloud, on-premises, am Rand oder anderswo, und diese Daten könnten physisch von überall her stammen, anstatt nur von einem bestimmten geografischen Standort. Der zweite Schritt ist die Entscheidungsfindung. Sobald diese Agenten Daten gesammelt haben, verwenden sie KI- und ML-Modelle, um Entscheidungen zu treffen. Der dritte Schritt ist die Ausführung und Durchführung. Nachdem diese Agenten eine Entscheidung getroffen haben, führen sie entsprechend aus. Der letzte Schritt ist das Lernen, bei dem diese Agenten die gesammelten Daten verwenden, um ihre Entscheidungen anzupassen und zu verfeinern.

Bei diesem Prozess benötigt Agentic-KI den Zugriff auf enorme Datensätze, um effektiv zu funktionieren. Agenten werden in der Regel in DatenSysteme integriert, die sensible Informationen verarbeiten oder speichern, wie Finanzdaten, Gesundheitsdatenbanken und andere personenbezogene Daten (PII). Leider kompliziert Agentic-KI die Bemühungen, die Netzwerkinfrastruktur gegen Schwachstellen zu sichern, insbesondere bei der Konnektivität zwischen verschiedenen Clouds. Es stellt auch Herausforderungen bei der Ausgangssicherheit dar, was es für Unternehmen schwierig macht, sich vor Datenexfiltration und Befehls- und Kontrollverletzungen zu schützen. Wenn ein KI-Agent kompromittiert wird, könnten sensible Daten leicht ausgespäht oder gestohlen werden. Ebenso könnten Agenten von bösartigen Akteuren gehijackt und verwendet werden, um Fehlinformationen im großen Maßstab zu erstellen und zu verbreiten. Wenn Verletzungen auftreten, gibt es nicht nur finanzielle Strafen, sondern auch Rufschäden.

Fähigkeiten wie Beobachtbarkeit und Nachvollziehbarkeit können durch Agentic-KI behindert werden, da es schwierig ist, zu verfolgen, auf welche Datensätze KI-Agenten zugreifen, was das Risiko erhöht, dass Daten exponiert oder von unbefugten Benutzern abgerufen werden. Ebenso kann die dynamische Lern- und Anpassungsfähigkeit von Agentic-KI traditionelle Sicherheitsaudits behindern, die auf strukturierten Protokollen basieren, um den Datenfluss zu verfolgen. Agentic-KI ist auch ephemeral, dynamisch und kontinuierlich in Betrieb, was ein 24/7-Bedürfnis nach optimaler Sichtbarkeit und Sicherheit erzeugt. Der Umfang ist eine weitere Herausforderung. Die Angriffsfläche hat sich exponentiell vergrößert und reicht nun über das Rechenzentrum und die Cloud hinaus bis hin zum Rand. Tatsächlich kann Agentic-KI je nach Organisation Tausende bis Millionen neuer Endpunkte am Rand hinzufügen. Diese Agenten operieren an verschiedenen Orten, sei es in verschiedenen Clouds, on-premises, am Rand usw., was das Netzwerk anfälliger für Angriffe macht.

Ein umfassender Ansatz zur Bewältigung der Sicherheitsherausforderungen von Agentic-KI

Unternehmen können die Sicherheitsherausforderungen von Agentic-KI angehen, indem sie Sicherheitslösungen und Best Practices an jedem der vier grundlegenden Betriebsphasen anwenden:

1. Wahrnehmung und Datensammlung: Unternehmen benötigen eine Hochgeschwindigkeits-Netzwerkkonnektivität, die von Ende zu Ende verschlüsselt ist, um es ihren Agenten zu ermöglichen, die enorme Menge an Daten zu sammeln, die erforderlich ist, um zu funktionieren. Erinnern Sie sich daran, dass diese Daten sensibel oder sehr wertvoll sein können, je nach Einsatzfall. Unternehmen sollten eine Hochgeschwindigkeits-Verschlüsselungslösung bereitstellen, um zwischen all diesen Datenquellen zu verbinden und sensible und PII-Daten zu schützen.
2. Entscheidungsfindung: Unternehmen müssen sicherstellen, dass ihre KI-Agenten Zugriff auf die richtigen Modelle und KI- und ML-Infrastruktur haben, um die richtigen Entscheidungen zu treffen. Durch die Implementierung eines Cloud-Feuerwalls können Unternehmen die Konnektivität und Sicherheit erhalten, die ihre KI-Agenten benötigen, um auf die richtigen Modelle in einer überprüfbaren Weise zuzugreifen.
3. Ausführung: KI-Agenten führen eine Aktion auf der Grundlage der Entscheidung aus. Allerdings müssen Unternehmen identifizieren, welcher Agent von den Hunderten oder Tausenden von Agenten diese Entscheidung getroffen hat. Sie müssen auch wissen, wie ihre Agenten miteinander kommunizieren, um Konflikte oder “Roboter, die gegen Roboter kämpfen” zu vermeiden. Daher benötigen Unternehmen Beobachtbarkeit und Nachvollziehbarkeit der von ihren KI-Agenten durchgeführten Aktionen. Beobachtbarkeit ist die Fähigkeit, interne Zustände und Verhaltensweisen von KI-Agenten in Echtzeit zu verfolgen und zu verstehen. Nachvollziehbarkeit ist die Fähigkeit, Daten, Entscheidungen und Aktionen, die von einem KI-Agenten durchgeführt werden, zu verfolgen und zu dokumentieren.
4. Lernen und Anpassung: Unternehmen geben Millionen, wenn nicht Hunderte von Millionen oder mehr, aus, um ihre Algorithmen zu optimieren, was den Wert und die Präzision dieser Agenten erhöht. Wenn ein böser Akteur in den Besitz dieses Modells gelangt und es exfiltriert, könnten all diese Ressourcen in wenigen Minuten in seinen Händen sein. Unternehmen können ihre Investitionen durch Egress-Sicherheitsfunktionen schützen, die vor Exfiltration und Befehls- und Kontrollverletzungen schützen.

Agentic-KI auf sichere und verantwortungsvolle Weise nutzen

Agentic-KI bietet ein enormes Potenzial, Unternehmen zu ermöglichen, neue Höhen der Produktivität und Effizienz zu erreichen. Allerdings müssen Unternehmen, wie bei jeder aufkommenden Technologie im KI-Bereich, Vorsichtsmaßnahmen ergreifen, um ihre Netzwerke und sensible Daten zu schützen. Sicherheit ist insbesondere heute von entscheidender Bedeutung, da hochentwickelte und gut organisierte böse Akteure, die von Staaten finanziert werden, wie Salt Typhoon und Silk Typhoon, weiterhin große Angriffe durchführen.

Unternehmen sollten mit Cloud-Sicherheitsexperten zusammenarbeiten, um eine robuste, skalierbare und zukunftssichere Sicherheitsstrategie zu entwickeln, die in der Lage ist, die einzigartigen Herausforderungen von Agentic-KI zu bewältigen. Diese Partner können es Unternehmen ermöglichen, ihre KI-Agenten zu verfolgen, zu verwalten und zu sichern; darüber hinaus helfen sie Unternehmen, das Bewusstsein zu erlangen, das erforderlich ist, um die Standards im Zusammenhang mit Compliance und Governance zu erfüllen.