融资

SplxAI 获得 700 万美元种子轮融资,以应对 Agentic AI 系统日益增长的安全威胁

mm
将 Unite.AI 添加到您在 Google 上的首选来源

在为保障 AI 未来做出重大一步中,SplxAI,一家 Agentic AI 领域的攻击性安全先驱,已获得 700 万美元种子轮融资。该轮融资由 LAUNCHub Ventures 领投,Rain CapitalInovoRuntime VenturesDNV VenturesSouth Central Ventures 参投。新资金将加速 SplxAI 平台 的开发,该平台旨在保护部署高级 AI 代理和应用程序的组织。

随着企业越来越多地将 AI 集成到日常运营中,威胁格局正在迅速演变。到 2028 年,预计 33% 的企业应用程序将集成 Agentic AI ——能够进行自主决策和复杂任务执行的 AI 系统。但是,这一转变带来了一个大大扩展的攻击面,传统的网络安全工具无法应对。

“在大规模部署 AI 代理时,会引入显著的复杂性,” Kristian KamberSplxAI 的 CEO 和联合创始人 说。 “手动测试在这种环境中不可行。我们的平台是唯一可扩展的 Agentic AI 安全解决方案。”

什么是 Agentic AI,以及为什么它是一个安全风险?

与响应直接提示的传统 AI 助手 不同,Agentic AI 指的是能够执行多步任务的系统。可以想象一下能够安排会议、预订旅行或管理工作流程的 AI 代理——所有这些都无需持续的人类输入。这种自主性虽然强大,但也引入了严重的风险,包括提示注入、离题响应、上下文泄漏和 AI 幻觉(虚假或误导性输出)。

此外,大多数现有的保护措施(例如 AI 防护栏)是被动的,通常训练不良,导致行为过于限制或危险地宽松。正是在这里,SplxAI 发挥作用。

SplxAI 平台:大规模 AI 红队测试

SplxAI 平台为 GenAI 系统提供完全自动化的红队测试,允许企业进行持续的实时渗透测试,跨越 AI 驱动的工作流程。它模拟复杂的对抗性攻击——模仿现实世界中高技能攻击者的攻击——跨多种模式,包括文本、图像、语音,甚至文档。

一些突出的功能包括:

  • 动态风险分析:持续探测 AI 应用程序以检测漏洞并提供可行的见解。

  • 特定领域渗透测试:根据每个组织的独特用例定制测试——从金融到客户服务。

  • CI/CD 流水线集成:将安全性直接嵌入开发过程中,以便在生产之前捕获漏洞。

  • 合规性映射:自动评估与 NIST AI、OWASP LLM Top 10、EU AI 法案和 ISO 42001 等框架的合规性。

这种主动方法已经获得了关注。客户包括 KPMG、Infobip、Brand Engagement Network (BNAI ) 和 Glean。自 2024 年 8 月推出以来,该公司报告了 127% 的季度环比增长。

投资者支持 AI 安全愿景

LAUNCHub Ventures 的总裁 Stan Sirakov,现在加入 SplxAI 的董事会,强调了大规模 AI 安全解决方案的必要性: “随着 Agentic AI 成为常态,其滥用的潜力也会增加。SplxAI 是唯一拥有大规模管理该风险计划的供应商。”

Rain Capital 的 Dr. Chenxi Wang 也表达了同样的观点,强调了 AI 系统在其初期阶段需要自动化红队测试的重要性: “SplxAI 的专业知识和技术使其能够成为 GenAI 安全领域的核心玩家。手动测试不再适用。”

新成员加强团队

随着融资的进行,SplxAI 宣布了两项战略性任命:

  • Stan Sirakov (LAUNCHub Ventures)加入 董事会

  • Sandy Dunn,Brand Engagement Network 的前首席信息安全官,担任 首席信息安全官,领导公司的 治理、风险和合规性(GRC) 计划。

尖端工具:Agentic Radar 和实时补救

除了核心平台外,SplxAI最近推出了 Agentic Radar ——一个开源工具,用于映射 Agentic 工作流程中的依赖关系,识别弱点,并通过静态代码分析表面安全漏洞。

同时,他们的补救引擎提供了一种自动化的方式来生成加固系统提示,减少攻击面 80%,提高提示泄漏防护 97%,并将工程努力减少 95%。这些系统提示对于塑造 AI 行为至关重要,如果暴露或设计不良,则可能成为重大安全责任。

在 20 多种语言中模拟现实世界威胁

SplxAI 还支持多语言安全测试,使其成为企业 AI 安全的全球解决方案。该平台模拟恶意提示,来自对抗性和良性用户类型,帮助组织发现诸如:

  • 上下文泄漏(敏感数据的意外披露)

  • 社会工程 攻击

  • 提示注入越狱 技术

  • 有毒或偏见输出

所有这些都通过 SplxAI 独特的 AI 红队智能实现,具有最小的假阳性。

展望未来:安全 AI 的未来

随着企业争相将 AI 集成到从客户服务到产品开发的各个领域,强大的实时 AI 安全的需求从未如此迫切。SplxAI 正在引领这场运动,以确保 AI 系统不仅强大 —— 而且值得信赖、安全和合规。

“我们正在执行一项使 GenAI 驱动的应用程序安全和保密的使命,” Kamber 补充说。 “我们的平台使组织能够快速行动而不破坏任何东西 —— 或损害信任。”

凭借新资金和势头,SplxAI 有望在未来几年成为 AI 安全栈的基础层。

安托万是一位具有远见的领导者和Unite.AI的联合创始人,他对塑造和推广人工智能和机器人技术的未来充满热情。作为一位连续创业者,他相信人工智能将对社会产生电力的影响一样的颠覆性影响,并经常对颠覆性技术和通用人工智能的潜力大加赞扬。

作为一位未来学家Securities.io的创始人,这是一个专注于投资尖端技术的平台,这些技术正在重新定义未来并重塑整个行业。