欧盟即将推出首部人工智能法规

4月21日，欧洲联盟将宣布其首个监管人工智能使用的框架。新的法规将完全禁止“高风险”的机器学习系统，并为其他机器学习技术引入最低标准，违规者将面临2000万欧元或公司营业额4%的罚款。

一份新法案草案由Politico获得，旨在促进人工智能系统的创新和发展，以造福欧盟经济和社会的整体利益，例如在制造业、能源效率改善和气候变化建模等领域；但它将禁止在信用评分系统、自动评估刑期和评估社会保障福利和庇护或签证申请的适宜性等领域使用机器学习。此外，草案明确指出，中国式的社会信用评分系统将被禁止，因为它违反了欧盟的价值观。

监管监督

欧盟在2021年3月任命了人工智能高级专家组后，计划成立一个新的欧洲人工智能委员会，每个成员国都有代表，欧盟委员会和欧盟数据保护局也将有代表。

草案中最具争议的规定可能是禁止那些通过操纵行为、意见或决定来对欧盟人口造成伤害的系统，这可能包括许多用于商业和政治营销分析的技术。

法规将为打击严重犯罪作出例外，允许在一定范围和时间内使用面部识别系统。

就像广泛的GDPR一样，这些新法规可能足够广泛，以至于在没有明确指南的领域可能会产生“寒蝉效应”，公司可能会因为其机器学习的使用而面临风险。

新欧盟人工智能法规下的偏见

然而，最大挑战和潜在的法律困境来自草案规定，数据集不得“包含任何故意或非故意的偏见”，这可能会促进歧视。

数据偏见是机器学习系统开发中最具挑战性的方面之一——难以证明，难以解决，并且深深地与数据收集机构的文化相关。这个问题越来越多地将私人和国家研究机构置于一个进退两难的境地：一方面需要准确地代表不同的群体（这是计算机数学和经验统计分析的基本目标），另一方面可能会宣扬种族特征和文化妖魔化等问题。

因此，非欧盟市场可能希望新的法规能够在这一方面提供一些具体的指导和定义。

对欧盟人工智能法规的外部抵制

新的法规可能会对使用机器学习分析公共数据的法律影响产生深远的影响，以及对在后跟踪时代仍能从网页用户中提取的数据的影响，由苹果、火狐和（在一定程度上）Chrome引入。

例如，在遵守GDPR的同时，FAANG巨头在欧盟以外的地区处理用户数据，可能会引发管辖权问题。目前尚不清楚在欧盟以外地区开发的算法是否可以应用于欧盟内部的平台，以及如何证明这一点。

在使用人工智能来指导拘留决定和量刑方面，这是一种正在美国兴起的趋势，英国也曾偶尔尝试过这种做法。如果英国没有退出欧盟，这些尝试本将受到新法规的约束。

2020年，白宫关于人工智能监管的草案备忘录宣称，联邦机构必须避免不必要地阻碍人工智能的创新和增长。这种态度可能会在特朗普政府之后继续存在，但反映了欧盟新法规出台后美国和欧盟之间可能出现的摩擦。

人工智能的第一部真正的法律

欧盟致力于人工智能立法是一个创新的举措。过去十年中，世界各国政府发布了大量关于人工智能伦理的白皮书和初步委员会报告和建议，但真正的法律很少被通过。

2019年调查中，各国发布的伦理人工智能指导文件数量地理分布。美国和欧盟发布了最多的指导文件，其次是英国和日本。加拿大、冰岛、挪威、阿联酋、印度、新加坡、韩国、澳大利亚每个国家有一份文件。G7国家的成员国因参与特定声明而被单独突出显示。 来源：https://arxiv.org/ftp/arxiv/papers/1906/1906.11668.pdf

进一步阅读

国家人工智能政策和战略 (经合组织)