Zenity erhält 125 Millionen Dollar, da Unternehmen die Sicherheitsrisiken autonomer KI-Agenten angehen

Zenity hat 125 Millionen Dollar in Series-C-Finanzierungsrunden aufgenommen, da Unternehmen künstliche Intelligenz-Agenten von kontrollierten Experimenten in Systeme verlagern, die auf Daten zugreifen, Software-Tools aufrufen und operationale Aufgaben ausführen können.

Norwest führte die Runde an, mit Qumra Capital, SoftBank Vision Fund 2, Hitachi Ventures und LG Technology Ventures als neue Investoren. Bestehende Investoren Vertex Ventures, Third Point Ventures, DTCP und Intel Capital beteiligten sich ebenfalls. Das Unternehmen gab seine Bewertung nicht bekannt.

Die Finanzierung erfolgt nach Zenitys 38-Millionen-Dollar-Series-B im Oktober 2024 und bringt die bekannt gegebenen Finanzierungsmittel des Unternehmens auf mindestens 180 Millionen Dollar.

Von KI-Experimenten zu autonomen Systemen

Die Größe der Runde spiegelt eine breitere Veränderung in der Art wider, wie Unternehmen KI übernehmen. Die erste Welle der generativen KI umfasste hauptsächlich Mitarbeiter, die mit Chatbots interagierten, um Texte zu erstellen, Dokumente zusammenzufassen oder Informationen abzurufen.

KI-Agenten stellen ein anderes Risikolevel dar, da sie Aktionen ausführen können. Abhängig von ihren Berechtigungen können Agenten interne Datenbanken zugreifen, Programmierschnittstellen aufrufen, Aufzeichnungen aktualisieren, Code ausführen, Nachrichten senden oder Workflows über mehrere Unternehmenssysteme hinweg initiieren.

Dies verschiebt das Sicherheitsproblem über die Frage hinaus, ob ein Modell eine unangemessene Antwort produziert. Organisationen müssen auch verstehen, welche Agenten bereitgestellt wurden, wer sie kontrolliert, auf welche Informationen sie zugreifen können und welche Aktionen sie autorisiert sind.

Ein Agent kann genau so handeln, wie er konzipiert wurde, und dennoch ein Sicherheitsereignis verursachen, wenn er übermäßige Berechtigungen verfügt, manipulierte Informationen trifft oder die Anweisungen eines Angreifers als Teil einer legitimen Aufgabe interpretiert.

Zenity bezeichnet dies als “Agenten-Schicht”-Problem. Seine Plattform ist darauf ausgelegt, die Konfiguration, Berechtigungen, verbundenen Tools, Speicher und Laufzeitaktionen eines Agenten zu untersuchen, anstatt nur auf die Eingaben, die in ein Modell eingegeben werden, oder die Antworten, die es generiert, zu achten.

Wie Zenity KI-Agenten sichert

Zenity teilt seine Plattform in drei Hauptbereiche auf: Beobachtbarkeit, Sicherheitsposten-Management und Erkennung und Reaktion.

Der Beobachtbarkeitskomponent deckt Agenten auf, die in einer Organisation operieren, einschließlich Agenten, die in Software-as-a-Service-Plattformen eingebettet sind, intern entwickelten Agenten, die in Cloud-Umgebungen laufen, und lokalen Tools, die auf Mitarbeitergeräten installiert sind.

Das Ziel ist es, Sicherheitsteams ein kontinuierlich aktualisiertes Bild von jedem Agenten, seinem Eigentümer, seiner Konfiguration, seinen Berechtigungen, Integrationen und Laufzeitverhalten zu geben. Dies wird immer wichtiger, da einzelne Abteilungen und Mitarbeiter die Fähigkeit haben, Agenten ohne herkömmliche Software-Entwicklungs- oder Sicherheitsprüfung zu erstellen.

Zenitys Regierungsebene bewertet Konfigurationen und Berechtigungen, bevor ein Agent in die Produktion geht. Richtlinien können verwendet werden, um übermäßigen Zugriff, ungesicherte Integrationen oder Tools zu identifizieren, die es einem Agenten ermöglichen könnten, über seine beabsichtigte Rolle hinaus zu operieren. Die Plattform kann diese Kontrollen auch überwachen, während Agenten im Laufe der Zeit geändert werden.

Während der Laufzeit analysiert Zenity den Ausführungspfad eines Agenten, einschließlich seiner Toolaufrufe, Speicherzugriffe, Datenverwendung und Interaktionen mit anderen Systemen. Das Unternehmen sagt, es könne diesen Kontext verwenden, um eine Aktion zuzulassen, zu modifizieren oder zu blockieren, bevor sie auftritt.

Dieser Ansatz soll zwischen einer normalen Anfrage und einer scheinbar normalen Anfrage, die von schädlichem Inhalt beeinflusst wurde, unterscheiden. Er behandelt auch eine wichtige Einschränkung der Prompt-Filterung: Ein gefährliches Ergebnis kann aus einer Folge von individuell harmlosen Aktionen entstehen.

Abdeckung von SaaS, Cloud und Mitarbeitergeräten

Zenity versucht, eine gemeinsame Sicherheitsebene über ein fragmentiertes Agenten-Ökosystem zu bieten.

Für Software-as-a-Service-Umgebungen unterstützt es Agenten, die mit Plattformen wie Microsoft 365 Copilot, Microsoft Copilot Studio, ChatGPT Enterprise und Salesforce (CRM ) Agentforce verknüpft sind. Diese Systeme können Agenten Zugriff auf Geschäftsdokumente, Kundenunterlagen, Kommunikationen und Workflows gewähren, die das Unternehmen nicht vollständig hostet oder kontrolliert.

Die Plattform unterstützt auch benutzerdefinierte Agenten, die mit Diensten wie AWS Bedrock, Azure AI Foundry und Google Vertex AI erstellt werden. Zenity überwacht, welche Tools und Cloud-Dienste diese Agenten aufrufen, während es Richtlinien während der Entwicklung und Ausführung anwendet.

Ein dritter Bereich umfasst gerätebasierte Agenten wie Codierassistenten, Desktop-Anwendungen und Agenten-Browser. Diese Tools können innerhalb der authentifizierten Umgebung eines Mitarbeiters operieren und möglicherweise Zugriff auf Dateien, Browser-Sitzungen und verbundene Dienste erlangen.

Die Einbeziehung dieser Umgebungen in ein System kann die Governance vereinfachen, stellt aber auch eine erhebliche technische Herausforderung dar. Die Architektur, Berechtigungen und Telemetrie, die von einer Software-as-a-Service-Copilot bereitgestellt werden, können sich erheblich von denen eines benutzerdefinierten Cloud-Agents oder eines lokal installierten Codierwerkzeugs unterscheiden.

Sicherheitsforschung unterstreicht das aufkommende Bedrohungsmodell

Zenity hat seine Produktentwicklung durch Forschung im Rahmen von Zenity Labs unterstützt, die untersucht, wie autonome Systeme durch unvertrauenswürdige Inhalte manipuliert werden können.

Ihre AgentFlayer-Forschung untersuchte Zero-Click- und One-Click-Angriffsketten, die weit verbreitete Unternehmens-KI-Plattformen betrafen. Die Demonstrationen umfassten Szenarien, in denen schädliche Anweisungen, die über E-Mails, Dokumente, Supportfälle oder Kollaborationstools geliefert wurden, Agenten veranlassten, Informationen preiszugeben, verbundene Tools missbräuchlich zu verwenden oder ihre Antworten zu ändern.

Neuere Forschung untersuchte Perplexitys Comet-Agents-Browser. Zenity-Forscher demonstrierten, wie versteckte Anweisungen in einer Kalender-Einladung den Browser beeinflussen konnten, während er eine Routine-Aufgabe ausführte. In einem Szenario navigierte der kompromittierte Agent zu einem unverschlüsselten 1Password-Web-Depot und übertrug Anmeldeinformationen über gewöhnliche Web-Anfragen.

Die Forschung führte das Problem auf unzureichende Trennung zwischen den Absichten des Benutzers und dem von dem Agenten gefundenen Drittinhalt zurück. Da der Agent bereits innerhalb einer authentifizierten Browser-Sitzung operierte, konnte er möglicherweise auf den Zugriff zugreifen, den der Benutzer rechtmäßig gewährt hatte.

Diese Demonstrationen zeigen, warum die Sicherheit von Agenten nicht allein auf die Erkennung offensichtlich schädlicher Prompts angewiesen sein kann. Die Anweisungen können in Daten versteckt sein, die ein Agent lesen soll, während die resultierenden Aktionen wie normales Browsen, Dokumentabruf oder Anwendungsaktivität aussehen können.

Sie unterstreichen auch die Bedeutung von Grenzen, die auch dann durchsetzbar bleiben, wenn die Argumentation eines Agenten manipuliert wurde.

Finanzierung der globalen Expansion und Produktentwicklung

Zenity sagt, sein Umsatz habe in den letzten zwei Jahren jedes Jahr verdreifacht und sei in diesem Jahr auf dem Weg, erneut zu verdreifachen. Das Unternehmen berichtet, dass viele seiner Kunden Fortune-500- und Global-2000-Organisationen sind, die in regulierten Branchen wie Finanzdienstleistungen, Gesundheitswesen, Pharmazeutika, Fertigung und Energie tätig sind.

Es hat jetzt mehr als 230 Mitarbeiter, mit Forschung und Entwicklung in Tel Aviv und seinen Vertriebs- und Betriebsfunktionen, die von New York aus geleitet werden.

Die Series-C-Finanzierung wird zur Beschleunigung der Produktentwicklung, zur Erweiterung von Zenity Labs und zur Stärkung der Präsenz des Unternehmens in Europa und im asiatisch-pazifischen Raum verwendet. Sie wird Zenity auch mit zusätzlichen Ressourcen ausstatten, um eine wachsende Anzahl von Agenten-Frameworks zu unterstützen, da die Unternehmens-KI-Infrastruktur vielfältiger wird.

Diese Expansion erfolgt weniger als zwei Jahre nach der vorherigen institutionellen Runde des Unternehmens, als Zenity noch seine Herkunft aus der Low-Code- und No-Code-Anwendungssicherheit betonte. Seine aktuelle Positionierung spiegelt wider, wie diese früheren Bedenken sich entwickelt haben: Mitarbeiter, die einst einfache Geschäftsanwendungen erstellen konnten, können jetzt Agenten erstellen, die Entscheidungen treffen und verbundene Systeme steuern können.

Die Sicherheit von KI-Agenten wird zu einer eigenen Kategorie

Zenitys Kapitalerhöhung signalisiert das Vertrauen der Investoren, dass die Sicherheit von KI-Agenten zu einer wesentlichen Cybersicherheitskategorie heranwachsen könnte, anstatt nur ein Feature in bestehenden Cloud-, Identitäts- oder Endgeräteprodukten zu bleiben.

Das Argument für eine dedizierte Kategorie ist, dass herkömmliche Tools in der Regel nur einen Teil der Aktivitäten eines Agenten sehen. Cloud-Sicherheitsplattformen können Infrastruktur untersuchen, Identitätssysteme können Berechtigungen verwalten und Endgeräteprodukte können Bedrohungen auf Betriebssystemebene erkennen. Sie verstehen jedoch nicht unbedingt die beabsichtigte Rolle eines Agenten oder wie eine Kette von Toolaufrufen mit dem ursprünglichen Ziel des Benutzers zusammenhängt.

Zenity muss noch beweisen, dass seine absichtsbasierten Kontrollen über schnell verändernde Frameworks hinweg ohne die Erzeugung übermäßiger Warnungen, die Blockierung legitimer Arbeit oder die Hinzufügung unannehmbarer Latenz operieren können. Es muss auch demonstrieren, dass Unternehmen eine separate Agenten-Sicherheitsplattform kaufen werden, anstatt sich auf Kontrollen zu verlassen, die von großen Cloud- und Software-Anbietern hinzugefügt werden.

Die unmittelbare Marktmöglichkeit wird jedoch immer deutlicher. Wenn Agenten Zugriff auf sensible Daten erhalten und wichtige Geschäftsprozesse steuern, benötigen Organisationen mehr als nur einen Nachweis dessen, was nach einem Vorfall passiert ist. Sie benötigen Mechanismen, die in der Lage sind, zu erkennen, welche Agenten existieren, ihre Fähigkeiten einzuschränken und einzugreifen, bevor eine ungewollte Aktion zu einem Verstoß wird.

Zenitys 125-Millionen-Dollar-Series-C gibt dem Unternehmen erhebliche Ressourcen, um diese Rolle zu verfolgen, während Sicherheitsteams sich auf eine Unternehmensumgebung vorbereiten, die zunehmend von autonomer Software besiedelt wird.