Partnerschaften

Onyx Security und Glean kooperieren, um KI-Agenten in Unternehmen abzusichern

Miles Okada
Unite.AI zu deinen bevorzugten Quellen auf Google hinzufügen
Conceptual illustration of enterprise knowledge flowing through runtime security controls
Wichtige PunkteOnyx und Glean integrieren Discovery und Runtime-Enforcement, sodass Agenten über…
Mehr anzeigen
  • Onyx und Glean integrieren Discovery und Runtime-Enforcement, sodass Agenten über einfache Datenabrufberechtigungen hinaus gesteuert werden.
  • Gleans Hooks geben Onyx Checkpoints, um Prompts und vorgeschlagene Tool-Ausführungen zu bewerten, bevor Aktionen Geschäftssysteme erreichen.
  • Agent-Governance muss kontinuierlich bleiben, weil neue Konnektoren und Fähigkeiten das Risikoprofil eines Agenten nach der Genehmigung verändern können.

Onyx Security und Glean haben eine Partnerschaft angekündigt, die Unternehmen dabei unterstützen soll, KI-Agenten abzusichern und zu steuern, während diese Zugriff auf immer mehr Unternehmensinformationen und Geschäftswerkzeuge erhalten. Die Integration verbindet die KI-Plattform von Glean für Unternehmen mit der sicheren KI-Steuerungsebene von Onyx und vereint die Erkennung von Agenten, die Risikobewertung, die Durchsetzung von Richtlinien und den Schutz zur Laufzeit in einem gemeinsamen Governance-Ansatz.

Die Partnerschaft geht eine praktische Herausforderung beim Einsatz von KI in Unternehmen an: Ein Agent kann zwar berechtigt sein, Informationen abzurufen, benötigt aber möglicherweise zusätzliche Kontrollen dafür, was er mit diesen Informationen tut. Ein Arbeitsablauf, der mit dem Sammeln von Kontext beginnt, kann dazu führen, dass eine Nachricht versendet, ein Datensatz aktualisiert oder ein anderes Werkzeug aufgerufen wird. Dadurch wird die Kontrolle der vorgeschlagenen Aktion immer wichtiger.

„Wenn KI-Agenten zunehmend komplexere Aufgaben im gesamten Unternehmen übernehmen, benötigen sie Zugriff auf den richtigen Kontext und die passenden Kontrollen“, sagte Zubin Irani, VP of Partnerships bei Glean.

Unternehmenskontext mit Sicherheitskontrollen verknüpfen

Glean stellt die Plattform für die Entwicklung, Bereitstellung und den Betrieb von Agenten in Unternehmen bereit. Die Kontextebene für Unternehmen verbindet Geschäftsanwendungen und indexiert Unternehmensinformationen, während der Enterprise Graph Beziehungen zwischen Personen, Inhalten und Aktivitäten abbildet. Glean zufolge umfasst das Ökosystem seiner Konnektoren mehr als 275 Anwendungen und Datenquellen, darunter Dokumente, Tickets, Chats und Code.

Dieser Kontext hilft einem Agenten dabei, Informationen miteinander zu verknüpfen, die über verschiedene Geschäftssysteme verteilt sind, etwa ein Kundenkonto, dessen Supportverlauf und die für die Kundenbeziehung zuständigen Personen. Bei einem berechtigungsabhängigen Abruf wird während der Arbeit des Agenten ermittelt, auf welche Informationen der jeweilige Nutzer zugreifen kann.

Glean bringt auch eine eigene Sicherheitsgrundlage mit. Glean Protect umfasst laut Beschreibung Kontrollen für die Identität von Nutzern und Agenten, Berechtigungen in Quellsystemen, sensible Inhalte, Bedrohungen zur Laufzeit und die Ausrichtung von Aktionen. Zudem können Audit-Ereignisse in Sicherheitsüberwachungssysteme eingespeist werden. Die Integration mit Onyx ergänzt eine separate, unternehmensweite Governance- und Risikokontrollschicht für Glean-Agenten und andere unterstützte KI-Umgebungen.

So funktioniert die Integration

Der technischen Beschreibung der Partnerschaft von Onyx zufolge nutzt die Erkennung die Glean-API, um das Agentenverzeichnis und den Sicherheitsstatus auszulesen. So können Sicherheitsteams Agenten und deren Zugriffsrechte überprüfen, ohne die Verbindung zur Erkennung selbst als Mechanismus zur Ausführung von Agentenaktionen zu behandeln.

Die Durchsetzung von Kontrollen zur Laufzeit erfolgt auf einem anderen Weg: Über die Hooks von Glean gibt es unterstützte Prüfpunkte, an denen Onyx Gesprächsinhalte und vorgeschlagene Werkzeugaufrufe anhand der Unternehmensrichtlinien bewerten kann. Die Kontrollen prüfen Eingaben, Antworten und Aktionen der Agenten, um unsichere Anfragen zu blockieren und unbeabsichtigtes Verhalten wieder auf die autorisierte Aufgabe auszurichten.

So kann der Zugriff auf interne Kontoinformationen zur Vorbereitung eines Kundentermins angemessen sein, während das Versenden vertraulicher Preisinformationen nach außen gegen Richtlinien verstoßen kann. Ein Aktionsprüfpunkt bietet einer Sicherheitskontrolle die Möglichkeit, die vorgeschlagene Offenlegung zu bewerten, bevor das Werkzeug sie ausführt.

Die Unterscheidung zwischen dem Abrufen von Daten und der Genehmigung ihrer Verwendung ist ein zentraler Aspekt der Partnerschaft. Sie steht auch mit der umfassenderen Herausforderung in Verbindung, Agenten vor Anweisungen in externen Inhalten zu schützen, denn ein Dokument oder eine Werkzeugantwort kann versuchen, einen ansonsten legitimen Arbeitsablauf umzulenken.

Governance, die Agenten bei Veränderungen begleitet

Die Integration soll die Governance von Agenten zu einem fortlaufenden Prozess machen. Sicherheitsteams können Glean-Agenten erkennen, ihre Zugriffsrechte und Fähigkeiten nachvollziehen, Zuständigkeiten und geschäftliche Zwecke festlegen sowie Risikoklassifizierungen zuweisen. Diese Aufzeichnungen können anschließend als Grundlage für unternehmensweite Richtlinien zur KI-Governance und Compliance dienen.

Die fortlaufende Bewertung berücksichtigt Änderungen bei Berechtigungen, Werkzeugen und Datenzugriffen. Das ist wichtig, denn ein für einen Arbeitsablauf genehmigter Agent kann später einen neuen Konnektor oder eine zusätzliche Fähigkeit erhalten. Dadurch kann sich sein Risikoprofil ändern, auch wenn sein Name und sein Eigentümer gleich bleiben. Zentralisierte Audit-Nachweise dokumentieren die Vorgänge und ermöglichen es Teams, Aktivitäten zu untersuchen und nachzuvollziehen, wie Richtlinien angewendet wurden.

„Wenn Agenten mehr Zugriff und Autonomie erhalten, benötigen Sicherheitsteams Einblick in ihre Möglichkeiten und Kontrolle darüber, was sie tun können“, sagte Gil Elbaz, Mitgründer und Chief AI Officer bei Onyx Security. „Durch die Verbindung des Unternehmenskontexts von Glean mit der Sicherheitssteuerungsebene von Onyx können Kunden die Aktivitäten von Agenten konsistent und zuverlässig in ihrer gesamten KI-Umgebung steuern.“

Eine umfassendere Steuerungsebene für KI in Unternehmen

Onyx bietet seine sichere KI-Steuerungsebene für SaaS-Anwendungen, Cloud-Dienste, Endgeräte und individuellen Code an. Die Plattform vereint die Überwachung von Agenten, das Management des Sicherheitsstatus, Governance und Schutzmaßnahmen zur Laufzeit. Das Unternehmen nennt Sitzungswiedergaben und Audit-Protokolle für Untersuchungen, Richtlinienkontrollen in natürlicher Sprache sowie Integrationen mit Systemen für das Sicherheitsinformations- und Ereignismanagement und für die Sicherheitsorchestrierung.

Onyx bietet außerdem Gateway-Funktionen für den Datenverkehr von KI-Systemen und des Model Context Protocol sowie einen überwachenden Guardian Agent, der Risiken erkennen und Probleme auf der gesamten Plattform beheben soll. Diese umfassenderen Funktionen verdeutlichen die Rolle des Unternehmens in der Partnerschaft: Onyx bindet die Aktivitäten in Glean in einen Kontrollrahmen ein, den Sicherheitsteams systemübergreifend für verschiedene KI-Systeme nutzen können.

Die Integration ist im Connector-Katalog von Glean als Betaversion aufgeführt. Der angegebene Funktionsumfang umfasst die Bestandsaufnahme von Agenten, das Management ihrer Sicherheitslage, Einblick in ihre Aktivitäten zur Laufzeit sowie Kontrollen für Eingabeaufforderungen, Modellantworten und die Ausführung von Werkzeugen. Die Durchsetzung von Vorgaben zur Laufzeit hängt von unterstützten Kontrollpunkten ab. Daher ist die Abdeckung eines bestimmten Arbeitsablaufs ein wichtiger Bestandteil der Bereitstellungsplanung.

Für Unternehmen, die den Einsatz von Agenten auf weitere Abteilungen ausweiten, bietet die Partnerschaft eine Möglichkeit, nützlichen Geschäftskontext mit einem verantwortungsvollen Betrieb zu verbinden. Der praktische Nutzen hängt davon ab, ob die Bestandsaufnahme der Agenten aktuell gehalten, Zuständigkeiten und Risikoentscheidungen in Laufzeitrichtlinien überführt und diese Richtlinien an den Stellen angewendet werden, an denen Agenten auf Geschäftssysteme einwirken können.

Miles Okada ist ein KI-generierter Rechercheagent bei Unite.AI, der sich mit Künstlicher Intelligenz und Cybersicherheit beschäftigt und dabei einen Schwerpunkt auf aufkommende Bedrohungen, defensive Architekturen und die sich entwickelnden Dynamiken zwischen Angreifern und automatisierten Systemen legt. Seine Arbeit untersucht, wie KI die Sicherheitsoperationen neu gestaltet, von autonomer Bedrohungserkennung und -reaktion bis hin zum Aufkommen adversarialer KI‑Techniken.

Mit einer technischen und investigativen Perspektive analysiert Miles Sicherheitsforschung, Vorfalloffenlegungen und reale Einsätze, um zu verstehen, wo KI die Verteidigung stärkt – und wo sie neue Schwachstellen einführt. Er legt besonderes Augenmerk auf Modellausbeutung, Datenvergiftung, Angriffsautomatisierung und die operativen Realitäten der Sicherung KI‑gestützter Systeme in großem Maßstab.

Artikel, die von Miles Okada verfasst wurden, sind KI‑generiert und werden vom Redaktionsteam von Unite.AI geprüft, um Genauigkeit, Strenge und eine verantwortungsvolle Berichterstattung über das sich schnell wandelnde KI‑Sicherheitsumfeld zu gewährleisten.