AI 技术领导者强调 AI 风险和强有力的 AI 监管的必要性

过去几年，AI 的增长和进步呈指数级增加。根据 Statista 的报告，到 2024 年，全球 AI 市场的收入将达到惊人的 3000 亿美元，相比 2015 年的 126 亿美元。然而，技术领导者现在警告我们关于 AI 的各种风险。

特别是，最近的生成式 AI 模型（如 ChatGPT）引入了新的功能，应用于各个数据敏感领域，如医疗保健、教育、金融等。这些 AI 支持的发展容易受到恶意代理的攻击，因为 AI 系统存在许多缺陷。

让我们讨论一下 AI 专家关于最近发展的看法，并强调 AI 的潜在风险。我们还将简要讨论如何管理这些风险。

技术领导者和他们对 AI 风险的担忧

杰弗里·辛顿

杰弗里·辛顿（Geoffrey Hinton）是一位著名的 AI 技术领导者（也是该领域的“教父”），他最近离开了谷歌，并对 AI 的快速发展和潜在危险发表了看法。辛顿认为，如果 AI 聊天机器人超过人类的智慧，它们可能会变得“相当可怕”。

辛顿说：

“现在，我们看到的是像 GPT-4 这样的东西，它在一般知识方面远远超过了人类，而且差距很大。在推理方面，它还不够好，但它已经可以进行简单的推理。考虑到进步的速度，我们可以预计事情会很快变得更好。所以，我们需要担心这一点。”

此外，他认为“坏人”可以利用 AI 做“坏事”，例如让机器人有自己的子目标。尽管他有担忧，辛顿认为 AI 可以带来短期利益，但我们也应该大量投资于 AI 安全和控制。

埃隆·马斯克

埃隆·马斯克在 2010 年投资 DeepMind 后开始参与 AI 领域，并在 2015 年联合创立了 OpenAI，并将 AI 集成到特斯拉的自动驾驶汽车中。

尽管他对 AI 非常热情，但他经常对 AI 风险提出担忧。马斯克说，强大的 AI 系统可能比核武器更危险。在 2023 年 4 月接受 Fox News 采访时，他说：

“AI 比如说，飞机设计或生产维护不当，或者汽车生产不当更危险。在这种意义上，它有可能——无论你如何看待这种概率——但它并非微不足道，并且有可能导致文明的毁灭。”

此外，马斯克支持政府对 AI 的监管，以确保安全免受潜在风险的影响，尽管“这并不有趣”。

暂停巨型 AI 实验：由数千名 AI 专家支持的公开信

未来生命研究所 于 2023 年 3 月 22 日发表了一封公开信。该信呼吁暂时停止开发比 GPT-4 更先进的 AI 系统。作者们表达了他们对 AI 系统开发速度的担忧，这可能会带来严重的社会经济挑战。

此外，信中指出，AI 开发者应该与政策制定者合作，记录 AI 治理系统。截至 2023 年 6 月，该信已经获得了超过 31,000 名 AI 开发者、专家和技术领导者的签署。著名签署者包括埃隆·马斯克、史蒂夫·沃兹尼亚克（苹果公司联合创始人）、埃马德·莫斯塔克（Stability AI 首席执行官）、约舒亚·本吉奥（图灵奖获得者）等。

关于停止 AI 开发的反驳论点

两位著名的 AI 领导者，安德鲁·恩格和扬·勒昆，对暂停开发先进 AI 系统的六个月禁令提出异议，并认为暂停是一个坏主意。

恩格说，虽然 AI 有一些风险，如偏见、权力集中等，但 AI 在教育、医疗保健和响应式辅导等领域创造的价值是巨大的。

勒昆说，研究和开发不应该停止，尽管可以监管到达最终用户的 AI 产品。

AI 的潜在危险和即刻风险是什么？

1. 工作岗位流失

AI 专家认为，智能 AI 系统可以取代认知和创造性任务。投资银行高盛估计，约 3 亿个工作岗位 将被生成式 AI 自动化。

因此，应该对 AI 的发展进行监管，以避免严重的经济衰退。应该有教育计划来提高和转换员工的技能，以应对这一挑战。

2. 偏见 AI 系统

人类对性别、种族或颜色的偏见可能会无意中渗入用于训练 AI 系统的数据中，从而使 AI 系统变得偏见。

例如，在招聘的背景下，偏见的 AI 系统可能会丢弃来自特定族裔背景的个人的简历，导致职场中的歧视。在执法领域，偏见的预测性执法可能会不成比例地针对特定的社区或人口群体。

因此，必须有一个全面性的数据策略来解决 AI 风险，特别是偏见。AI 系统必须经常被评估和审计，以保持公平。

3. 安全关键 AI 应用

自动驾驶汽车、医疗诊断和治疗、航空系统、核电站控制等都是安全关键 AI 应用的例子。这些 AI 系统的开发必须谨慎，因为即使是小错误也可能对人类生命或环境产生严重后果。

例如，AI 软件 Maneuvering Characteristics Augmentation System (MCAS) 的故障被认为是导致两架波音 737 MAX 飞机相继坠毁的原因，第一次是在 2018 年 10 月，第二次是在 2019 年 3 月。悲剧的是，两次坠毁事故共造成 346 人死亡。

如何克服 AI 系统的风险？ – 负责任的 AI 开发和监管合规

负责任的 AI (RAI) 意味着开发和部署公平、可解释、透明和安全的 AI 系统，确保隐私和遵守法律法规和社会规范。实施 RAI 可能很复杂，考虑到 AI 系统的广泛和快速发展。

然而，大型科技公司已经开发了 RAI 框架，例如：

1. 微软的负责任 AI
2. 谷歌的 AI 原则
3. IBM 的可信 AI

全球各地的 AI 实验室可以从这些原则中汲取灵感，或者开发自己的负责任的 AI 框架，以创建可靠的 AI 系统。

AI 监管合规

由于数据是 AI 系统的重要组成部分，AI 基础组织和实验室必须遵守以下法规，以确保数据安全、隐私和安全。

1. GDPR (通用数据保护条例) – 欧盟的数据保护框架。
2. CCPA (加利福尼亚消费者隐私法) – 加利福尼亚州关于消费者隐私权和保护的法令。
3. HIPAA (健康保险可携带性和责任法案) – 美国立法，保护患者的医疗数据。
4. EU AI 法案，和 可信 AI 的道德指南 – 欧盟委员会的 AI 法规。

各个国家有各种区域和本地法律来保护其公民。未能确保数据监管合规的组织可能会面临严重的处罚。例如，GDPR 对严重违规行为（如非法数据处理、未经证实的数据同意、违反数据主体权利或未保护的数据转移到国际实体）设定了 2000 万欧元或年度利润的 4% 的罚款。

AI 开发和监管 – 现状和未来

每个月，AI 的进步都达到了前所未有的高度。但是，相应的 AI 监管和治理框架却落后了。它们需要更加健全和具体。

技术领导者和 AI 开发者一直在警告 AI 风险，如果不加以适当监管。AI 的研究和开发可以在许多领域带来更多价值，但现在很明显，谨慎的监管是必要的。

更多关于 AI 的内容，请访问 unite.ai。