欧盟将推出首部人工智能法规

欧盟将于4月21日宣布其首个监管人工智能使用的框架。新的法规将完全禁止“高风险”的机器学习系统，并为其他机器学习技术制定最低标准，对违规行为处以2000万欧元或公司营业额4%的罚款。

一份新法草案由Politico获得，旨在促进人工智能系统的创新和发展，以造福欧盟的经济和社会，特别是在制造业、提高能源效率和气候变化建模等领域。但是，它将禁止在信用评分系统、自动评估刑期和评估社会保障福利和庇护或签证申请的适合性等领域使用机器学习，以及其他待公布的禁止规定。

草案明确指出，中国式的社会评分系统对于个人和公司违反欧盟的价值观，将在法规下被禁止，连同由人工智能驱动的“大规模监控”技术。

监管监督

在2021年3月任命高级别人工智能专家组后，欧盟还打算成立一个新的欧洲人工智能委员会，每个成员国都有代表，欧盟委员会和欧盟数据保护局也将有代表。

草案中最全面和可能最有争议的规定是，它禁止通过“操纵其行为、意见或决定”来对欧盟人口造成伤害的系统，这可能包括许多用于商业和政治营销分析的技术。

法规将为打击严重犯罪做出例外，允许在一定范围和使用时间内部署面部识别系统。

与广泛的GDPR一样，这些新法规可能足够广泛，以至于在没有严格指南的领域产生“寒蝉效应”，公司可能会因其机器学习的使用而面临风险，这可能会落入法规的灰色区域。

欧盟人工智能法规下的偏见

然而，最大挑战和潜在的法律困境来自草案规定，数据集不得“包含任何故意或非故意的偏见”，这可能会促进歧视。

数据偏见是机器学习系统开发中最具挑战性的方面之一——难以证明，难以解决，并且深深地与数据收集机构的核心文化相关。这一问题越来越多地将私人和国家研究机构置于需要准确代表不同群体（实际上是计算数学和经验统计分析的奠基目标）的需要和可能促进种族歧视和文化恶魔化等问题之间的交叉点。

因此，非欧盟市场可能希望新的法规能够提供至少一些具体的指导和定义，以解决这一问题。

对欧盟人工智能法规的外部抵制

新的法规可能会对使用机器学习分析公共数据（以及在苹果、Firefox和（在一定程度上）Chrome引入的后跟踪时代中仍然可以提取的数据）产生深远影响。

例如，在FAANG巨头在遵守GDPR的同时在欧盟外处理数据的情况下，可能需要明确定义管辖权。目前尚不清楚通过这些系统派生的算法是否可以应用于欧盟内部的平台，即使可以，也不清楚如何证明这一点。

在使用人工智能来告知拘留决定和量刑方面，这是美国的一种日益流行的趋势，英国偶尔在这一领域的实验如果英国没有退出欧盟，将会受到新法规的覆盖。

2020年，白宫关于人工智能监管的草案备忘录宣布了美国对人工智能监管的立场，声明“联邦机构必须避免不必要地阻碍人工智能创新和增长的监管或非监管行动”。可以说，这种态度可能会在新法规出台后在美国和欧盟之间产生摩擦。

同样，英国人工智能委员会的‘人工智能路线图’表达了对人工智能采用的经济利益的热情，但也表达了对新法规可能阻碍这一进步的担忧。

首个真正的人工智能法

欧盟致力于人工智能的法律立场是创新性的。过去十年中，世界各国政府发布了大量的白皮书和初步委员会的发现和建议，集中在人工智能的伦理方面，但实际上并没有通过太多法律。

2019年调查中，各国发布的以人工智能为主题的道德指南数量地理分布。美国和欧盟发布了最多的道德指南，其次是英国和日本。加拿大、冰岛、挪威、阿联酋、印度、新加坡、韩国和澳大利亚各有一份文件。作为G7声明的贡献者，G7国家的成员国被单独列出。 来源：https://arxiv.org/ftp/arxiv/papers/1906/1906.11668.pdf

进一步阅读

国家人工智能政策与战略 (经合组织)