제니티, 자율 AI 에이전트의 보안 위험에 대처하는 기업을 위한 1.25억 달러 투자 유치

제니티는 자율 AI 에이전트의 보안 위험에 대처하는 기업을 위한 1.25억 달러의 시리즈 C 투자를 유치했습니다. 이 투자 라운드는 노르웨스트(Norwest)가 주도했으며, 쿰라 캐피탈, 소프트뱅크 비전 펀드 2, 히타치 벤처스, LG 테크 벤처스가 새로운 투자자로 참여했습니다. 기존 투자자인 버텍스 벤처스, 서드 포인트 벤처스, DTCP, 인텔 캐피탈도 참여했습니다. 회사 측은 기업 가치를 공개하지 않았습니다.

이 투자는 제니티의 이전 투자 라운드인 2024년 10월에 유치한 3,800만 달러의 시리즈 B 투자에 이어졌습니다. 이를 통해 제니티의 공개된 투자 금액은 최소 1억 8,000만 달러에 달합니다.

AI 실험에서 자율 시스템으로

이번 투자 라운드의 규모는 기업들이 AI를采用하는 방식에 대한 더广泛한 변화를 반영합니다. 초기의 생성적 AI는 주로 직원들이 챗봇과 상호작용하여 텍스트를 생성하거나 문서를 요약하거나 정보를 검색하는 데 사용되었습니다.

AI 에이전트는 다른 수준의 위험을 초래합니다. 에이전트는 동작을 취할 수 있습니다. 에이전트의 권한에 따라 내부 데이터베이스에 접근하거나 애플리케이션 프로그래밍 인터페이스를 호출하거나 레코드를 업데이트하거나 코드를 실행하거나 메시지를 보낼 수 있습니다.

이것은 보안 문제를 모델이 부적절한 응답을 생성하는 것 이상으로 확장합니다. 조직은 에이전트가 배포된지, 누가 에이전트를 제어하는지, 에이전트가 어떤 정보에 접근할 수 있는지, 에이전트가 수행할 수 있는 동작은 무엇인지 이해해야 합니다.

에이전트는 설계대로 동작하지만 여전히 보안 사고를 발생시킬 수 있습니다. 에이전트가 과도한 권한을 가지고 있거나 조작된 정보를 마주치거나 공격자의 지시에 따라 동작할 수 있습니다.

제니티는 이를 “에이전트 계층” 문제라고 설명합니다. 제니티의 플랫폼은 모델이 입력받는 프롬프트나 생성하는 응답만을 살펴보지 않고, 에이전트의 구성, 권한, 연결된 도구, 메모리, 런타임 동작을 조사합니다.

제니티의 AI 에이전트 보안

제니티는 플랫폼을 세 가지 주요 영역으로 나눕니다: 관찰 가능성, 보안态勢 관리, 탐지 및 대응.

관찰 가능성 구성 요소는 조직 전체에서 동작하는 에이전트를 발견하고 목록화합니다. 이것은 소프트웨어 서비스 플랫폼에 내장된 에이전트, 클라우드 환경에서 실행되는 내부 개발 에이전트, 직원 장치에 설치된 로컬 도구를 포함합니다.

목표는 보안 팀이 각 에이전트의 소유자, 구성, 권한, 통합, 런타임 동작에 대한 지속적으로 업데이트되는 그림을 제공하는 것입니다. 이것은 개별 부서와 직원이 전통적인 소프트웨어 개발이나 보안 검토 프로세스를 거치지 않고 에이전트를 생성할 수 있는 능력을 얻고 있기 때문에 점점 더 중요해지고 있습니다.

제니티의 거버넌스 계층은 에이전트가 프로덕션에 들어가기 전에 구성과 권한을 평가합니다. 정책을 사용하여 과도한 접근, 보안되지 않은 통합, 에이전트가 의도된 역할을超越하여 동작할 수 있는 도구를 식별할 수 있습니다. 플랫폼은 에이전트가 수정됨에 따라 이러한 제어를 계속 확인할 수 있습니다.

런타임에, 제니티는 에이전트의 실행 경로, 도구 호출, 메모리 접근, 데이터 사용, 다른 시스템과의 상호작용을 분석합니다. 제니티는 이 컨텍스트를 사용하여 동작을 허용, 수정 또는 차단하기 전에 동작을 분석할 수 있다고 말합니다.

이 접근 방식은 정상적인 요청과 악의적인 콘텐츠에 의해 영향받은 정상적인 요청을 구별하기 위한 것입니다. 또한 프롬프트 필터링의 한계를 해결합니다: 안전한 동작의 시퀀스에서 위험한 결과가 발생할 수 있습니다.

SaaS, 클라우드, 직원 장치 보안

제니티는 조각난 에이전트 생태계에 걸쳐 공통의 보안 계층을 제공하려고 합니다.

소프트웨어 서비스 환경에서, 제니티는 마이크로소프트 365 코파일럿, 마이크로소프트 코파일럿 스튜디오, 채트GPT 엔터프라이즈, 세일즈포스 에이전트포스와 같은 플랫폼과 관련된 에이전트를 지원합니다. 이러한 시스템은 기업이 완전히 호스팅하거나 제어하지 않는 비즈니스 문서, 고객 레코드, 커뮤니케이션, 워크플로우에 에이전트가 접근할 수 있도록 할 수 있습니다.

플랫폼은 또한 AWS 베드락, Azure AI 파운드리, Google Vertex AI와 같은 서비스를 사용하여 구축된 사용자 정의 에이전트를 지원합니다. 제니티는 이러한 에이전트가 호출하는 도구와 클라우드 서비스를 모니터링하면서 개발 및 실행 중에 정책을 적용합니다.

세 번째 영역은 코딩 어시스턴트, 데스크톱 애플리케이션, 에이전트 브라우저와 같은 장치 기반 에이전트를 포함합니다. 이러한 도구는 직원의 인증된 환경 내에서 동작할 수 있으며, 파일, 브라우저 세션, 연결된 서비스에 대한 접근을 상속받을 수 있습니다.

이러한 환경을 하나의 시스템으로 통합하면 거버넌스를 단순화할 수 있지만, 상당한 기술적인 도전을 제기합니다. 소프트웨어 서비스 코파일럿의 아키텍처, 권한, 텔레메트리는 사용자 정의 클라우드 에이전트 또는 로컬로 설치된 코딩 도구와 크게 다를 수 있습니다.

보안 연구, 새로운 위협 모델

제니티는 제품 개발을 지원하기 위해 제니티 랩스를 통해 연구를 수행했습니다. 이 연구는 자율 시스템이 어떻게 신뢰할 수 없는 콘텐츠를 통해 조작될 수 있는지 조사했습니다.

에이전트플레이어 연구는 널리 사용되는 기업 AI 플랫폼을 대상으로 하는 제로클릭 및 원클릭 공격 체인을 조사했습니다. 이 시연에는 이메일, 문서, 지원 사례 또는 협업 도구를 통해 전달된 악의적인 지침이 에이전트를 정보를 노출시키거나, 연결된 도구를 악용하거나, 응답을 변경하도록 유도하는 시나리오가 포함되었습니다.

최근 연구는 퍼플렉시티의 코메트 에이전트 브라우저를 조사했습니다. 제니티 연구원은 일정 초청에 숨겨진 지침이 브라우저를 조작하여 1패스워드 웹 보관소에 접근하고, 자격증명을 일반적인 웹 요청을 통해 전송하는 시나리오를 시연했습니다.

이 연구는 에이전트와 사용자의 의도 사이에 불충분한 분리가 문제임을 밝혔습니다. 에이전트는 이미 인증된 브라우저 세션 내에서 동작하고 있었으므로, 사용자가 합법적으로 부여한 접근을 사용할 수 있었습니다.

이러한 시연은 에이전트 보안이 명백하게 악의적인 프롬프트만을 감지하는 것에만 의존할 수 없음을 보여줍니다. 지침은 에이전트가 읽을 수 있는 데이터 내에 埋藏될 수 있으며, 결과 동작은 정상적인 브라우징, 문서 검색 또는 애플리케이션 동작과 유사할 수 있습니다.

이것은 또한 에이전트의 추론이 조작된 경우에도 강제할 수 있는 경계의 중요성을 강조합니다.

글로벌 확장 및 제품 개발 투자

제니티는 매년 매출이 3배로 증가하고 있으며, 올해도 3배로 증가할 것으로 예상합니다. 회사 측은 많은 고객이 금융 서비스, 헬스케어, 제약, 제조, 에너지와 같은 규제 산업에서 운영되는 포춘 500 및 글로벌 2000 기업이라고 보고 있습니다.

현재 제니티에는 230명 이상의 직원이 있으며, 연구 개발은 텔아비브에, 시장 진출 및 운영 기능은 뉴욕에 집중되어 있습니다.

시리즈 C 투자는 제품 개발을 가속화하고, 제니티 랩스를 강화하며, 유럽과 아시아 태평양 지역에서 회사의 존재를 확대하기 위해 사용될 것입니다. 또한 제니티는 다양한 에이전트 프레임워크를 지원하기 위한 추가 자원을 제공할 것입니다.

이 확장은 제니티의 이전 기관 투자 라운드에서 약 2년 후에 이루어졌습니다. 당시 제니티는 로우코드 및 노코드 애플리케이션 보안의 기원을 강조하고 있었습니다. 현재의 포지셔닝은 초기 우려가 어떻게 진화했는지 반영합니다: 직원들이 단순한 비즈니스 애플리케이션을 만들 수 있었던 시대는过去了. 이제 직원들은 의사 결정과 연결된 시스템을 운영할 수 있는 에이전트를 만들 수 있습니다.

AI 에이전트 보안, 새로운 카테고리

제니티의 자금 조달은 투자자가 AI 에이전트 보안이 기존 클라우드, 아이덴티티 또는 엔드포인트 제품 내의 기능이 아닌, 별도의 사이버 보안 카테고리로 발전할 수 있을 것이라는 믿음을 나타냅니다.

전용 카테고리의 논리는 기존 도구가 에이전트의 활동을 부분적으로만 볼 수 있다는 것입니다. 클라우드 보안 플랫폼은 인프라를 검사할 수 있고, 아이덴티티 시스템은 권한을 관리할 수 있으며, 엔드포인트 제품은 운영 체제 수준의 위협을 감지할 수 있습니다. 그러나 에이전트의 의도된 역할이나 도구 호출 체인이 사용자의 원래 목표와 어떻게 관련되는지 이해하지 못할 수 있습니다.

제니티는 의도 기반 제어가 빠르게 변경되는 프레임워크에서 작동할 수 있으며, 과도한 경고를 생성하지 않고, 정당한 작업을 차단하지 않고, 수용할 수 없는 지연을 추가하지 않는다는 것을 입증해야 합니다. 또한 기업이 별도의 에이전트 보안 플랫폼을 구매할 것인지, 주요 클라우드 및 소프트웨어 제공업체가 추가한 제어에 의존할 것인지 입증해야 합니다.

즉각적인 시장 기회는 명확해지고 있습니다. 에이전트가 민감한 데이터에 접근하고 중요한 비즈니스 프로세스를 제어하기 시작할 때, 조직은 사고 후에 발생한 일에 대한 기록만이 아니라, 에이전트가 존재하는지, 에이전트가 무엇을 할 수 있는지, 의도하지 않은 동작이 발생하기 전에 에이전트를 중단할 수 있는 메커니즘을 필요로 할 것입니다.

제니티의 1.25억 달러의 시리즈 C 투자는 회사가 이러한 역할을 수행하기 위한 상당한 자원을 제공합니다. 보안 팀은 점점 더 자율적인 소프트웨어로 채워지는 기업 환경을 준비하고 있습니다.