Connect with us

融资

SplxAI 获得 700 万美元种子轮融资,应对 Agentic AI 系统日益增长的安全威胁

mm

在为保障 AI 未来做出重大一步中,SplxAI,一家 Agentic AI 进攻性安全领域的先驱,已筹集了 700 万美元的种子资金。该轮融资由 LAUNCHub Ventures 领投,Rain CapitalInovoRuntime VenturesDNV VenturesSouth Central Ventures 参投。新资本将加速 SplxAI 平台 的开发,该平台旨在保护部署高级 AI 代理和应用程序的组织。

随着企业越来越多地将 AI 集成到日常运营中,威胁格局正在迅速演变。到 2028 年,预计 33% 的企业应用程序将包含 Agentic AI ——能够进行自主决策和复杂任务执行的 AI 系统。但是,这一转变带来了传统网络安全工具无法应对的巨大攻击面。

“大规模部署 AI 代理引入了显著的复杂性,” Kristian KamberSplxAI 的 CEO 和联合创始人 说。 “手动测试在这种环境中不可行。我们的平台是保护 Agentic AI 的唯一可扩展解决方案。”

什么是 Agentic AI,它为什么是安全风险?

与响应直接提示的传统 AI 助手 不同,Agentic AI 指的是能够自主执行多步骤任务的系统。可以想象一下能够安排会议、预订旅行或管理工作流的 AI 代理——所有这些都无需持续的人类输入。这种自主性虽然强大,但也引入了严重的风险,包括提示注入、离题响应、上下文泄露和 AI 幻觉(虚假或误导性输出)。

此外,大多数现有的保护措施(如 AI 防护栏)是被动的,通常训练不足,导致行为过于限制或危险的宽松。正是在这里,SplxAI 发挥作用。

SplxAI 平台:AI 红队攻击

SplxAI 平台为 GenAI 系统提供了全自动的红队攻击,使企业能够在 AI 驱动的工作流中进行连续的实时渗透测试。它模拟了复杂的对抗性攻击——类似于真实世界中高技能攻击者的攻击——跨多种模式,包括文本、图像、语音,甚至文档。

一些突出的功能包括:

  • 动态风险分析:持续探测 AI 应用程序以检测漏洞并提供可行的见解。

  • 特定领域渗透测试:根据每个组织的独特用例定制测试——从金融到客户服务。

  • CI/CD 流水线集成:将安全性直接嵌入开发过程中,以便在生产之前捕获漏洞。

  • 合规性映射:自动评估与 NIST AI、OWASP LLM Top 10、EU AI 法案和 ISO 42001 等框架的合规性。

这种主动方法已经获得了认可。客户包括 KPMG、Infobip、Brand Engagement Network 和 Glean。自 2024 年 8 月推出以来,公司报告了 127% 的季度增长率。

投资者支持 AI 安全愿景

LAUNCHub Ventures 的普通合伙人 Stan Sirakov 强调了可扩展的 AI 安全解决方案的必要性:“随着 Agentic AI 成为常态,其滥用的潜力也会增加。SplxAI 是唯一一个有计划在大规模上管理这种风险的供应商。”

Rain Capital 的陈希 Wang 博士也表达了同样的观点,强调了在 AI 系统的早期阶段进行自动化红队攻击的重要性:“SplxAI 的专业知识和技术使其有望成为 GenAI 安全领域的核心玩家。手动测试已经不再适用。”

新成员加强团队

随着融资的到来,SplxAI 宣布了两项战略性任命:

  • Stan Sirakov (LAUNCHub Ventures)加入 董事会

  • Sandy Dunn,Brand Engagement Network 的前首席信息安全官,担任 首席信息安全官,领导公司的 治理、风险和合规性(GRC) 计划。

尖端工具:Agentic Radar 和实时补救

除了核心平台外,SplxAI 近期推出了 Agentic Radar ——一个开源工具,用于映射 Agentic 工作流中的依赖关系,识别弱点,并通过静态代码分析表面安全漏洞。

同时,他们的补救引擎提供了一种自动化的方式来生成加固系统提示,减少了 80% 的攻击面,提高了 97% 的提示泄露防护,并将工程努力减少了 95%。这些系统提示对于塑造 AI 行为至关重要,如果暴露或设计不良,可能会成为重大安全隐患。

模拟 20 多种语言的真实世界威胁

SplxAI 还支持多语言安全测试,使其成为企业 AI 安全的全球解决方案。该平台模拟了对抗性和良性用户类型的恶意提示,帮助组织揭示诸如:

  • 上下文泄露(意外泄露敏感数据)

  • 社会工程 攻击

  • 提示注入越狱 技术

  • 有毒或有偏见的输出

所有这些都通过 SplxAI 独特的 AI 红队智能实现,具有最小的假阳性。

展望未来:安全 AI 的未来

随着企业争相将 AI 集成到从客户服务到产品开发的各个方面,强大的实时 AI 安全的需求从未如此迫切。SplxAI 正在引领这项事业,确保 AI 系统不仅强大而且值得信赖、安全和合规。

“我们正在执行一项使命,保护和保障 GenAI 驱动的应用程序,” Kamber 补充说。 “我们的平台使组织能够快速行动,而不会破坏事情 —— 或损害信任。”

凭借新资本和动力,SplxAI 有望成为未来几年 AI 安全栈的基础层。

安托万是一位具有远见的领导者和Unite.AI的创始合伙人,他被对塑造和推广AI和机器人人的未来充满不动摇的热情所驱动。作为一位连续创业者,他相信AI将对社会产生与电力一样的颠覆性影响,他经常被听到对颠覆性技术和AGI的潜力大加赞赏。

作为一位未来学家,他致力于探索这些创新将如何塑造我们的世界。另外,他也是Securities.io的创始人,这是一个专注于投资于重新定义未来和重塑整个行业的尖端技术的平台。