Connect with us

思想领袖

欧洲的监管框架为人工智能服务创新创造了空间

mm

在最近与一家欧洲银行举行的研讨会上,关于人工智能的讨论在第一小时内根本没有涉及模型准确性。相反,讨论围绕审计跟踪、数据血统以及如果系统做出错误决定谁将签署。

这种模式很常见。在受监管的行业中,人工智能讨论始于安全、问责和声誉风险,而不是性能基准或部署速度。

监管作为市场塑造者,而不是制动器

考虑一个信用评分系统。在许多市场中,团队会测试、迭代和在生产中改进。在欧洲,顺序是不同的。风险分类首先进行。然后是文档。监督机制在部署之前定义。只有然后系统才会上线。

这种转变改变的不仅仅是过程。它改变了激励。

欧洲选择优先考虑控制和可辩护性而不是速度。这种选择增加了摩擦。它减慢了推出速度。但它也在生态系统中重新分配了价值——为能够导航复杂性而不是抽象它的公司创造了空间。

在银行、医疗保健、制药、汽车、iGaming和受监管的数字平台等行业,人工智能采纳受到一个主导性问题的影响:如果它失败了会发生什么?当下行风险是监管制裁或公众信任侵蚀时,“大部分工作”是不够的。这种现实优先考虑精度而不是速度。

为什么欧洲的人工智能路径看起来不同

欧洲经常被描述为在人工智能方面谨慎。更准确的词可能是故意的。

在美国,开发往往优化规模和市场占有率。在亚洲的一些地区,快速推出和协调占据主导地位。相比之下,欧洲在开始时就嵌入了风险评估,而不是在最后。

欧盟的基于风险的框架下,某些人工智能系统必须在部署之前进行分类。高风险应用需要文档、定义的人类监督和可追溯的决策逻辑。对于技术领导者来说,这意味着项目从第一天开始就涉及合规官和法律团队。设计研讨会看起来不同。时间表拉长。

的确:这个过程更慢。但是开始时更慢可以意味着以后会有更少的逆转。几家机构已经悄悄地推迟了启动,不是因为模型性能不佳,而是因为监督流程没有得到充分的文档记录。重建治理已经变得和调整算法一样重要。

数据主权加剧了这种情况。关于本地化和部门特定保护的限制使得全球模型难以部署。为无限制数据移动设计的模板通常需要重构。结果是更少的统一性——和更多的上下文适应性。

大型平台正在适应。它们正在构建合规基础设施和透明度工具。然而,即使基础设施检查了正确的盒子,企业仍然面临未解决的问题:谁承担责任?如何结构人类审查?监管机构将如何解释这种特定用例?这些问题很少是通用的。它们是本地的、部门特定的和不断演变的。

这种模糊性正是机会出现的地方。

复杂性如何创造新的服务细分市场

规则创造摩擦。摩擦创造工作。持续的工作创造市场。

在欧洲,两种需求正在增长。

第一种是直接的合规性:分类、文档、审计准备。必要,但不是变革性的。

第二种是架构性的。系统必须从设计上就能解释。监控必须嵌入。访问必须受到控制和记录。安全不能在之后分层。这些要求从一开始就塑造了系统设计。

医疗保健人工智能与制造业人工智能不同。银行监督与游戏监管不同。通用抽象很少能在与部门特定执行接触时幸存。因此,企业越来越多地寻找能够将技术能力与监管知识相结合的合作伙伴。

这并不意味着超大规模公司在技术上是劣等的。这意味着,在一个解释很重要的背景下,抽象alone是不够的。

安全性在这种环境中成为产品的一部分。组织不再购买模型;他们正在购买可辩护的系统。可审计性和监督是可交付成果。

其中一些内容可能会随着时间的推移而标准化。工具将成熟。文档可能会自动化。但是,特别是在行业之间,解释将保持不均匀。

专业化是成熟的标志

专业人员往往在实验结束时出现。

早期的人工智能项目容忍失败。生产系统则不容忍。一旦人工智能触及信用决策、医疗工作流程或客户交互,治理就成为基础设施。

银行很好地说明了这一点。风险注册表、监督委员会和非功能性要求不再是外围的。它们被嵌入到部署周期中。

与此同时,组织希望获得更广泛的访问权限。业务团队希望使用生成性人工智能工具。这引入了紧张:在不失去控制的情况下启用访问。

一种出现的模式是受控的GenAI工作空间——监控、记录并受政策约束。这些环境通常在由习惯于在欧洲约束而不是全球默认值下操作的公司设计时会迅速演变。实际上,这通常意味着在定义提示之前定义升级路径——决定谁干预之前决定模型说什么。

来自Information Services Group的独立市场研究反映了这一结构性转变,在欧洲区分了大型提供商和专业公司。这种分段反映了企业行为:随着人工智能变得运营至关重要,语境专长变得更加重要。

这是可持续的还是暂时的?

全球平台将继续适应。合规功能将改进。一些解释工作将被吸收到工具中。

然而,在近期内,各行业之间的完全标准化仍然不太可能。风险分类和执行方式不同。国家监管机构以不同的方式应用指导方针。只要解释保持上下文,企业将寻找能够连接技术和监管领域的合作伙伴。

欧洲的合规性几乎像一个次要市场过滤器一样:它提高了进入成本,但也增加了上下文专长的价值。

因此,欧洲人工智能市场不太可能集中到一个主导模型。更合理的结果是循环的:专业化、整合和随着监管和技术的演变而重新区分。

监管作为生态系统设计师

欧洲的框架不仅仅约束了人工智能的部署。它在生态系统内重新分配了影响力。

通过要求从一开始就有问责制和可辩护性,它提高了能够将规则转化为运营系统的行为者。像Avenga这样的公司运营在这个空间,构建满足功能和治理要求的系统。ISG的认可反映了更广泛的市场模式,而不是孤立的认可。

辩论不应再集中在监管是否会减缓创新。更相关的问题是欧洲的故意方法将继续塑造谁在人工智能中创造价值多久。

Olena Domanska 是 Avenga 的全球能力负责人。她领导跨学科团队,帮助组织将新兴技术转化为可衡量的商业成果。她的工作重点是数据战略、AI 启用和可扩展的云架构。