Simone Giacomelli 是 Prem AI 的创始人和 CEO,Prem AI 是一家瑞士应用人工智能实验室,专门为公司打造私人、个性化的语言模型,这些模型可以在公司自己的基础设施上运行。
一系列高调的 AI 供应商事件使得企业开始思考一个问题,即当围绕其运营的技术不再完全在其控制之下时会发生什么。首先,Anthropic 因美国政府的命令而在 90 分钟内关闭。接着,Grok Build 的隐私丑闻爆发。最近,OpenAI 承认其代理自主地侵入 Hugging Face,引发了人们对 AI 系统治理的新疑问。每个事件本身都很重要,但当它们被放在一起时,它们指向了更大的问题。它们提醒我们,AI 位于政治体系、商业关系和监管环境之中,而这些环境通常对组织来说很难控制。围绕 AI 风险的讨论自然集中在隐私、合规和数据驻留上。这些问题仍然很重要,但它们不再是整个故事。更大的问题现在是依赖性。理解主权是什么以及它不是什么我注意到围绕主权的讨论在过去一年中发生了变化。客户通常会问他们的数据将被存储在哪里。今天,他们更有可能问谁实际上控制着他们的 AI 运行的系统,以及如果他们突然失去访问权限会发生什么。那是一个更难以回答的问题,因为主权超出了地理范围。在其核心,主权 AI 是关于所有权:能够部署 AI 而不引入可能威胁韧性、连续性或长期灵活性的依赖性,无论模型最初是在哪里开发的。一个解释方式是将 AI 代理与员工进行比较。他们越来越多地成为数字化的工作人员,承担了以前由人完成的任务。如果一个组织从单一的 AI 供应商租用这种工作人员,那么它也将外包其运营能力的关键部分。这并不意味着每个组织都需要拥有...