融资

SplxAI 获得 700 万美元种子轮融资,以应对 Agentic AI 系统日益增长的安全威胁

mm
将 Unite.AI 添加到您在 Google 上的首选来源

在为保障 AI 未来做出重大一步中,SplxAI,一家 Agentic AI 领域的攻击性安全先驱,已获得 700 万美元种子轮融资。该轮融资由 LAUNCHub Ventures 领投,Rain Capital、Inovo、Runtime Ventures、DNV Ventures 和 South Central Ventures 参投。新资金将加速 SplxAI 平台 的开发,该平台旨在保护部署高级 AI 代理和应用程序的组织。

随着企业越来越多地将 AI 集成到日常运营中,威胁格局正在迅速演变。到 2028 年,预计 33% 的企业应用程序将集成 Agentic AI ——能够进行自主决策和复杂任务执行的 AI 系统。但是,这一转变带来了一个大大扩展的攻击面,传统的网络安全工具无法应对。

“在大规模部署 AI 代理时,会引入显著的复杂性,” Kristian Kamber,SplxAI 的 CEO 和联合创始人 说。 “手动测试在这种环境中不可行。我们的平台是唯一可扩展的 Agentic AI 安全解决方案。”

什么是 Agentic AI,以及为什么它是一个安全风险?

与响应直接提示的传统 AI 助手 不同,Agentic AI 指的是能够执行多步任务的系统。可以想象一下能够安排会议、预订旅行或管理工作流程的 AI 代理——所有这些都无需持续的人类输入。这种自主性虽然强大,但也引入了严重的风险,包括提示注入、离题响应、上下文泄漏和 AI 幻觉(虚假或误导性输出)。

此外,大多数现有的保护措施(例如 AI 防护栏)是被动的,通常训练不良,导致行为过于限制或危险地宽松。正是在这里,SplxAI 发挥作用。

SplxAI 平台:大规模 AI 红队测试

SplxAI 平台为 GenAI 系统提供完全自动化的红队测试,允许企业进行持续的实时渗透测试,跨越 AI 驱动的工作流程。它模拟复杂的对抗性攻击——模仿现实世界中高技能攻击者的攻击——跨多种模式,包括文本、图像、语音,甚至文档。

一些突出的功能包括:

  • 动态风险分析:持续探测 AI 应用程序以检测漏洞并提供可行的见解。

  • 特定领域渗透测试:根据每个组织的独特用例定制测试——从金融到客户服务。

  • CI/CD 流水线集成:将安全性直接嵌入开发过程中,以便在生产之前捕获漏洞。

  • 合规性映射:自动评估与 NIST AI、OWASP LLM Top 10、EU AI 法案和 ISO 42001 等框架的合规性。

这种主动方法已经获得了关注。客户包括 KPMG、Infobip、Brand Engagement Network (BNAI ) 和 Glean。自 2024 年 8 月推出以来,该公司报告了 127% 的季度环比增长。

投资者支持 AI 安全愿景

LAUNCHub Ventures 的总裁 Stan Sirakov,现在加入 SplxAI 的董事会,强调了大规模 AI 安全解决方案的必要性: “随着 Agentic AI 成为常态,其滥用的潜力也会增加。SplxAI 是唯一拥有大规模管理该风险计划的供应商。”

Rain Capital 的 Dr. Chenxi Wang 也表达了同样的观点,强调了 AI 系统在其初期阶段需要自动化红队测试的重要性: “SplxAI 的专业知识和技术使其能够成为 GenAI 安全领域的核心玩家。手动测试不再适用。”

新成员加强团队

随着融资的进行,SplxAI 宣布了两项战略性任命:

  • Stan Sirakov (LAUNCHub Ventures)加入 董事会。

  • Sandy Dunn,Brand Engagement Network 的前首席信息安全官,担任 首席信息安全官,领导公司的 治理、风险和合规性(GRC) 计划。

尖端工具:Agentic Radar 和实时补救

除了核心平台外,SplxAI最近推出了 Agentic Radar ——一个开源工具,用于映射 Agentic 工作流程中的依赖关系,识别弱点,并通过静态代码分析表面安全漏洞。

同时,他们的补救引擎提供了一种自动化的方式来生成加固系统提示,减少攻击面 80%,提高提示泄漏防护 97%,并将工程努力减少 95%。这些系统提示对于塑造 AI 行为至关重要,如果暴露或设计不良,则可能成为重大安全责任。

在 20 多种语言中模拟现实世界威胁

SplxAI 还支持多语言安全测试,使其成为企业 AI 安全的全球解决方案。该平台模拟恶意提示,来自对抗性和良性用户类型,帮助组织发现诸如:

  • 上下文泄漏(敏感数据的意外披露)

  • 社会工程 攻击

  • 提示注入 和 越狱 技术

  • 有毒或偏见输出

所有这些都通过 SplxAI 独特的 AI 红队智能实现,具有最小的假阳性。

展望未来:安全 AI 的未来

随着企业争相将 AI 集成到从客户服务到产品开发的各个领域,强大的实时 AI 安全的需求从未如此迫切。SplxAI 正在引领这场运动,以确保 AI 系统不仅强大 —— 而且值得信赖、安全和合规。

“我们正在执行一项使 GenAI 驱动的应用程序安全和保密的使命,” Kamber 补充说。 “我们的平台使组织能够快速行动而不破坏任何东西 —— 或损害信任。”

凭借新资金和势头,SplxAI 有望在未来几年成为 AI 安全栈的基础层。

安托万是一位富有远见的领导者,也是 Unite.AI 的创始合伙人。他怀着坚定的热情,致力于塑造和推动人工智能与机器人技术的未来。作为一名多次创业的企业家,他相信人工智能将像电力一样深刻地改变社会,并经常热情地谈论颠覆性技术和通用人工智能(AGI)的潜力。

作为一名未来学家,他致力于探索这些创新将如何塑造我们的世界。此外,他还是 Securities.io 的创始人。该平台专注于投资正在重新定义未来、重塑整个行业的前沿技术。