SplxAI, 에이전트 AI 시스템의 증가하는 보안 위협에 대처하기 위해 700만 달러의 시드 라운드 자금을 확보하다

에이전트 AI의 미래를 보호하기 위한 주요 단계에서, SplxAI, 에이전트 AI의 오펜시브 보안 분야의 선구자, 700만 달러의 시드 자금을 확보했다. 이 라운드는 LAUNCHub Ventures가 주도했으며, Rain Capital, Inovo, Runtime Ventures, DNV Ventures, 및 South Central Ventures의 전략적 참여가 있었다. 새로운 자본은 SplxAI 플랫폼의 개발을 가속화할 것이며, 이는 고급 AI 에이전트 및 애플리케이션을 배포하는 조직을 보호하기 위해 설계되었다.

기업들이 日常 운영에 AI를 점점 더 통합함에 따라, 위협 풍경은 빠르게 진화하고 있다. 2028년까지, 33%의 기업 애플리케이션이 에이전트 AI를 통합할 것으로 예상된다 — 자율적 의사 결정 및 복잡한 작업 실행이 가능한 AI 시스템이다. 그러나 이 전환은 전통적인 사이버 보안 도구가 처리할 수 없는 방대한 공격 표면을 가져온다.

“대규모로 AI 에이전트를 배포하면 상당한 복잡성이 소개된다.”라고 Kristian Kamber, SplxAI의 CEO 및 공동 창립자는 말했다. “수동 테스트는 이러한 환경에서 실현 가능하지 않다. 우리의 플랫폼은 에이전트 AI를 보안하는唯一의 확장 가능한 솔루션이다.”

에이전트 AI란 무엇이며 왜 보안 위험이 되는가?

직접 명령에 응답하는 전통적인 AI 어시스턴트와 달리, 에이전트 AI는 다단계 작업을 자율적으로 수행할 수 있는 시스템을 의미한다. 회의를 예약하거나 여행을 예약하거나 워크플로우를 관리할 수 있는 AI 에이전트를 생각해보라 — 모두 연속적인 인간의 입력 없이 수행된다. 이러한 자율성은 강력하지만, 프롬프트 주입, 오프토픽 응답, 컨텍스트 누출 및 AI 환각(거짓 또는 오도된 출력)과 같은 심각한 위험을 소개한다.

또한 대부분의 기존 보호 수단 — 예를 들어 AI 가드레일 — 은 반응적이며 종종 제대로 훈련되지 않아 과도하게 제한적인 행동이나 위험한 허용으로 이어진다. 바로 이때 SplxAI가 등장한다.

SplxAI 플랫폼: AI를 위한 레드 팀 테스팅

SplxAI 플랫폼은 GenAI 시스템을 위한 완전 자동화된 레드 팀 테스팅을 제공하여 기업이 AI 기반 워크플로우 전반에 걸쳐 지속적이고 실시간 펜트레스트 테스팅을 수행할 수 있도록 한다. 이는 텍스트, 이미지, 음성 및 문서를 포함한 여러 모달리티에서 고도로 숙련된 공격자와 유사한 복잡한 적대적 공격을 시뮬레이션한다.

일부 주요 기능에는:

• 다이내믹 리스크 분석: AI 애플리케이션을 지속적으로 프로빙하여 취약성을 감지하고 실행 가능한 통찰력을 제공한다.

• 도메인 특정 펜트레스트: 각 조직의 고유한 사용 사례에 테스팅을 맞춘다 — 금융에서 고객 서비스까지.

• CI/CD 파이프라인 통합: 보안을 직접 개발 프로세스에 통합하여 프로덕션 전에 취약성을 捕获한다.

• 컴플라이언스 매핑: NIST AI, OWASP LLM Top 10, EU AI 법 및 ISO 42001과 같은 프레임워크와의 일치성을 자동으로 평가한다.

이 프로액티브 접근 방식은 이미 인기를 얻고 있다. 고객에는 KPMG, Infobip, Brand Engagement Network 및 Glean이 포함된다. 2024년 8월 출시 이후, 회사는 분기별 127%의 성장을 보고했다.

투자자들은 AI 보안 비전을 지원한다

LAUNCHub Ventures의 제너럴 파트너 Stan Sirakov는 이제 SplxAI의 이사회에 합류했으며, 확장 가능한 AI 보안 솔루션의 필요성을 강조했다: “에이전트 AI가 표준이 되는 мере, 그 악용 가능성도 vậy이다. SplxAI는 그 위험을 대규모로 관리할 계획을 갖춘唯一의 벤더이다.”

Rain Capital의 Dr. Chenxi Wang은 이 의견을 재언급하며, 초기 단계의 AI 시스템을 위한 자동화된 레드 팀 테스팅의 중요성을 강조했다: “SplxAI의 전문 지식과 기술은 GenAI를 보안하는중앙 플레이어가 되기에 적합하다. 수동 테스팅은 더 이상 충분하지 않다.”

새로운 추가 사항이 팀을 강화한다

자금과 함께, SplxAI는 두 가지 전략적 인력을 발표했다:

• Stan Sirakov (LAUNCHub Ventures)이 이사회에 합류했다.

• Sandy Dunn, Brand Engagement Network의 전 CISO, Chief Information Security Officer로 합류하여 회사의 Governance, Risk, and Compliance (GRC) 이니셔티브를 이끌었다.

최근의 툴: 에이전트 레이더 및 실시간 복구

코어 플랫폼 외에도, SplxAI는 최근 에이전트 레이더를 출시했으며, 이는 에이전트 워크플로우의 의존성을 매핑하고 약한 링크를 식별하며 정적 코드 분석을 통해 보안 격차를 표면화하는 오픈 소스 툴이다.

한편, 그들의 복구 엔진은 하드코딩된 시스템 프롬프트를 자동으로 생성하여 공격 표면을 80% 줄이고, 프롬프트 누출 방지를 97% 개선하며, 엔지니어링 노력을 95% 줄인다. 이러한 시스템 프롬프트는 AI 행동을 형성하는 데 중요하며, 노출되거나 잘못 설계되면 주요 보안 취약점이 될 수 있다.

20개 이상의 언어로 실제적인 위협 시뮬레이션

SplxAI는 또한 다중 언어 보안 테스팅을 지원하여 기업 AI 보안을 위한 글로벌 솔루션이다. 플랫폼은 적대적 및 양호한 사용자 유형의 악의적인 프롬프트를 시뮬레이션하여 다음과 같은 위협을 발견하는 데 도움이 된다:

• 컨텍스트 누출(민감한 데이터의 우연한 공개)

• 소셜 엔지니어링 공격

• 프롬프트 주입 및 제일브레이크 기술

• 유독하거나 편향된 출력

이 모든 것이 SplxAI의 고유한 AI 레드 팀 인텔리전스를 통해 최소한의 거짓 양성과 함께 제공된다.

미래를 향해: 보안 AI의 미래

기업들이 고객 서비스에서 제품 개발까지 모든 것에 AI를 통합하려는 속도에 따라, 강력하고 실시간 AI 보안의 필요성은 어느 때보다도 크다. SplxAI는 AI 시스템이 강력하지만 신뢰할 수 있고 보안이 되고 규정 준수하는 것을 보장하기 위해 선도적인 역할을 하고 있다.

“우리는 GenAI 파워드 앱을 보안하고 보호하는 임무를 맡고 있다.” 캠버는 추가했다. “우리의 플랫폼은 조직이 신속하게 움직이도록 하지만, 깨지거나 신뢰를 위협하지는 않도록 한다.”

신선한 자본과 모멘텀을 바탕으로, SplxAI는 앞으로 몇 년 동안 AI 보안 스택의 기초 레이어가 될 준비가 되었다.