SplxAI, 에이아이 보안 위협 해결을 위한 700만 달러의 시드 라운드 자금을 확보하다

에이아이의 미래를 보호하는 데 중요한一步으로, 에이아이 보안의 선구자인 SplxAI는 700만 달러의 시드 자금을 확보했다. 이 라운드는 LAUNCHub Ventures가 주도했으며, Rain Capital, Inovo, Runtime Ventures, DNV Ventures, South Central Ventures가 전략적으로 참여했다. 새로운 자본은 SplxAI 플랫폼의 개발을 가속화할 것이며, 이는 고급 에이아이 에이전트와 애플리케이션을 배포하는 조직을 보호하기 위한 것이다.

기업들이 에이아이를 일상적인 운영에 점점 더 많이 통합함에 따라, 위협 풍경은 빠르게 진화하고 있다. 2028년까지, 33%의 기업 애플리케이션이 에이전틱 에이아이를 통합할 것으로 예상되며, 이는 자율적인 의사 결정과 복잡한 작업 실행이 가능한 에이아이 시스템이다. 그러나 이 전환은 전통적인 사이버 보안 도구가 처리할 수 없는 방대한 공격 표면을 가져온다.

“에이아이 에이전트를 대규모로 배포하면 상당한 복잡성이 도입된다.”라고 Kristian Kamber, SplxAI의 CEO 및 공동 창립자는 말했다. “수동 테스트는 이러한 환경에서 실현 불가능하다. 우리의 플랫폼은 에이전틱 에이아이를 보호하는唯一한 확장 가능한 솔루션이다.”

에이전틱 에이아이란 무엇이며, 왜 보안 위협인가?

직접적인 프롬프트에 응답하는 일반적인 에이아이 어시스턴트와는 달리, 에이전틱 에이아이는 다단계 작업을 자율적으로 수행할 수 있는 시스템을 의미한다. 회의를 예약하거나, 여행을 예약하거나, 워크플ロー를 관리할 수 있는 에이아이 에이전트를 생각해보라. 이러한 자율성은 강력하지만, 프롬프트 주입, 오프토픽 응답, 컨텍스트 누출, 에이아이 환각(거짓 또는 오도된 출력)과 같은 심각한 위험을 도입한다.

또한, 대부분의 기존 보호 수단은 반응적이며 종종 제대로 훈련되지 않아,過度로 제한적인 행동이나 위험한 허용성을 초래한다. SplxAI는 여기서 단계에 들어간다.

SplxAI 플랫폼: 에이아이를 위한 레드 팀 테스트

SplxAI 플랫폼은 제네릭 에이아이 시스템을 위한 완전 자동화된 레드 팀 테스트를 제공하여, 기업들이 지속적인 실시간 침투 테스트를 에이아이 파워드 워크플로우에 수행할 수 있게 한다. 이는 여러 모달리티(텍스트, 이미지, 음성, 문서 등)를 통해 고급 적대적 공격을 시뮬레이션한다.

일부 주요 기능은 다음과 같다:

• 다이나믹 리스크 분석: 에이아이 앱을 지속적으로 프로빙하여 취약성을 감지하고 조치 가능한 통찰력을 제공한다.

• 도메인 특정 펜테스팅: 각 조직의 고유한 사용 사례(금융, 고객 서비스 등)에 맞게 테스트를 맞춤 설정한다.

• CI/CD 파이프라인 통합: 보안을 직접 개발 프로세스에 통합하여 프로덕션 전에 취약성을 잡는다.

• 컴플라이언스 매핑: NIST AI, OWASP LLM Top 10, EU AI Act, ISO 42001과 같은 프레임워크와의 일치성을 자동으로 평가한다.

이 프로액티브 접근 방식은 이미 인기를 얻고 있다. 고객으로는 KPMG, Infobip, Brand Engagement Network (BNAI ), Glean이 있으며, 2024년 8월에 출시된 이후 127%의 분기별 성장률을 기록했다.

투자자들은 에이아이 보안 비전을 지지한다

LAUNCHub Ventures의 Stan Sirakov 제네럴 파트너는 SplxAI의 이사회에 합류하며, 확장 가능한 에이아이 보안 솔루션의 필요성을 강조했다: “에이전틱 에이아이가 표준이 되는 만큼, 그 잠재적인 남용도 증가한다. SplxAI는 이러한 위험을 대규모로 관리할 수 있는 유일한 벤더이다.”

Rain Capital의 Dr. Chenxi Wang은 이 의견에 동의하며, 에이아이 시스템 초기에 자동화된 레드 팀 테스트의 중요성을 강조했다: “SplxAI의 전문 지식과 기술은 제네릭 에이아이를 보호하는 중심 선수로 자리매김할 수 있다. 수동 테스트는 더 이상 충분하지 않다.”

신규 인력으로 팀을 강화한다

자금 조달과 함께, SplxAI는 두 명의 전략적인 인력을 발표했다:

• Stan Sirakov (LAUNCHub Ventures)이 이사회에 합류했다.

• Sandy Dunn, Brand Engagement Network의 전 CISO가 Chief Information Security Officer로 합류하여, 회사의 Governance, Risk, and Compliance (GRC) 이니셔티브를 이끌었다.

최신 도구: 에이전틱 레이더와 실시간 복구

코어 플랫폼 외에도, SplxAI는 최근 에이전틱 레이더를 출시했으며, 이는 에이전틱 워크플로우의 의존성을 매핑하고, 약한 링크를 식별하며, 정적 코드 분석을 통해 보안 격차를 표면화하는 오픈 소스 도구이다.

한편, 그들의 복구 엔진은 경화된 시스템 프롬프트를 자동으로 생성하여, 공격 표면을 80% 줄이고, 프롬프트 누출 방지를 97% 개선하며, 엔지니어링 노력을 95% 줄인다. 이러한 시스템 프롬프트는 에이아이 행동을 형성하는 데 중요한 역할을 하며, 노출되거나 제대로 설계되지 않으면 주요 보안 책임이 될 수 있다.

20개 이상의 언어로 실제 위협 시뮬레이션

SplxAI는 또한 다중 언어 보안 테스트를 지원하여, 기업 에이아이 보안을 위한 글로벌 솔루션이다. 플랫폼은 적대적 및 良性 사용자 유형 모두에서 악의적인 프롬프트를 시뮬레이션하여, 다음과 같은 위협을 발견하는 데 도움을 준다:

• 컨텍스트 누출 (민감한 데이터의 우발적 공개)

• 소셜 엔지니어링 공격

• 프롬프트 주입 및 제일브레이크 기술

• 유독하거나 편향된 출력

이 모든 것이 SplxAI의 고유한 에이아이 레드 팀 인텔리전스를 통해 최소한의 거짓 양성과 함께 제공된다.

앞으로: 보안 에이아이의 미래

기업들이 고객 서비스에서 제품 개발까지 모든 것에 에이아이를 통합하려고 하는데, 강력하고 실시간 에이아이 보안의 필요는 कभ누가 없던 적보다 중요하다. SplxAI는 에이아이 시스템이 강력하고 신뢰할 수 있으며, 보안이 되고, 준수하는 것을 보장하기 위해 선두에서 나서고 있다.

“우리는 제네릭 에이아이 파워드 앱을 보호하고 안전하게 유지하는 임무를 맡고 있다.” 캄버는 추가했다. “우리의 플랫폼은 조직이 빠르게 이동할 수 있게 하면서, 물건을 부수거나, 신뢰를 손상시키지 않도록 해준다.”

신선한 자본과 모멘텀을 바탕으로, SplxAI는 향후 수년 동안 에이아이 보안 스택의 기초 레이어가 될 것으로 예상된다.