AI 透明度和开放源码模型的需求

为了保护人们免受 AI 的潜在危害，美国和欧洲联盟的一些监管机构越来越倡导对开放源码 AI 模型的控制和制衡。这部分是由大公司控制 AI 开发和塑造 AI 发展以造福自己的愿望所驱动的。监管机构还担心 AI 发展的速度，因为他们担心 AI 发展太快，可能没有足够的时间建立防止其被用于恶意目的的保障措施。

美国的 AI 权利法案和 NIST AI 风险管理框架，以及欧盟的 AI 法案，支持诸如准确性、安全性、非歧视性、安全性、透明度、问责制、可解释性、可理解性和数据隐私等原则。另外，欧盟和美国都预计标准化组织，无论是政府还是国际实体，都将在为 AI 建立指南方面发挥至关重要的作用。

在这种情况下，为了实现一个透明和开放的 AI 未来，必须努力使 AI 系统能够被检查和监控。这将使全球的开发人员能够彻底检查、分析和改进 AI，特别是关注训练数据和过程。

为了成功地将透明度带入 AI，我们必须了解支撑 AI 的决策算法，从而解开 AI 的“黑盒”方法。开放源码和可检查的模型在实现这一目标方面发挥着重要作用，因为它们提供了对底层代码、系统架构和训练数据的访问，以便审计和检查。这一开放性促进了合作、推动了创新，并防止了垄断。

为了实现这一愿景的实现，必须促进政策变化、草根倡议，并鼓励所有利益相关者，包括开发人员、公司、政府和公众的积极参与。

当前 AI 状态：集中和控制

目前，AI 的开发，尤其是 大型语言模型（LLM），主要集中在大公司手中。这一权力的集中引发了人们对滥用的担忧，并提出了关于公平获取和 AI 进步利益分配的问题。

特别是，像 LLM 这样的流行模型在训练过程中缺乏开放源码的替代方案，因为需要大量的计算资源，这些资源通常只对大公司可用。然而，即使这种情况保持不变，确保训练数据和过程的透明度也是至关重要的，以便于审计和问责。

OpenAI最近引入的AI类型许可系统引发了人们对监管俘获的担忧，因为它可能不仅影响AI的轨迹，还会影响更广泛的社会、经济和政治方面。

对透明 AI 的需求

想象一下，我们依赖于一种技术，它对人类/个人生活做出影响性的决定，但却没有留下任何痕迹，没有任何对这些结论背后的理由的理解。这就是透明度变得不可或缺的地方。

首先，透明度至关重要，并建立信任。当 AI 模型变得可观察时，它们会让人对其可靠性和准确性充满信心。此外，这种透明度还会让开发人员和组织对其算法的结果更加负责。

另一个透明度的重要方面是识别和减轻算法偏见。偏见可以通过多种方式注入到 AI 模型中。

• 人为因素：数据科学家容易将自己的偏见注入到模型中。
• 机器学习：即使科学家创建了纯粹客观的 AI 模型，模型仍然容易受到偏见的影响。机器学习从一个定义明确的数据集开始，但然后被释放到新的数据中，创建新的学习路径和新的结论。这些结果可能是无意的、有偏见的或不准确的，因为模型试图在“数据漂移”中自行演化。

了解这些潜在的偏见来源以便识别和减轻它们至关重要。识别偏见的一种方法是审计用于训练模型的数据。这包括寻找可能表明歧视或不公平的模式。减轻偏见的另一种方法是使用去偏见技术。这些技术可以帮助从模型中删除或减少偏见。通过对偏见的可能性保持透明，并采取措施减轻偏见，我们可以确保 AI 以公平和负责的方式使用。

透明的 AI 模型使研究人员和用户能够检查训练数据、识别偏见并采取纠正措施来解决它们。通过使决策过程可见，透明度帮助我们努力实现公平并防止歧视性做法的传播。此外，透明度在模型的整个生命周期中都是必要的，以防止数据漂移、偏见和 AI 幻觉，这些幻觉会产生虚假信息。这些幻觉在大型语言模型中尤其普遍，但也存在于所有形式的 AI 产品中。AI 可观察性在确保模型的性能和准确性方面也发挥着重要作用，创造了更安全、更可靠的 AI， menos 容易出错或产生意外后果。

然而，在 AI 中实现透明度并非没有挑战。必须仔细平衡以解决诸如数据隐私、安全性和知识产权等问题。这需要实施保护隐私的技术、匿名化敏感数据，并建立促进负责任的透明度实践的行业标准和法规。

使透明 AI 成为现实

开发能够实现 AI 检查性的工具和技术对于促进 AI 模型的透明度和问责制至关重要。

除了开发能够实现 AI 检查性的工具和技术外，技术开发还可以通过创造围绕 AI 的透明度文化来促进透明度。鼓励企业和组织对其使用 AI 的情况保持透明度也可以帮助建立信任和信心。通过使 AI 模型更容易检查和创造围绕 AI 的透明度文化，技术开发可以帮助确保 AI 以公平和负责的方式使用。

然而，技术开发也可能产生相反的效果。例如，如果技术公司开发出不对公众开放审查的专有算法，这可能会使人们更难理解这些算法的工作原理和潜在的偏见或风险。确保 AI 的发展造福整个社会，而不是少数人，需要很高的合作度。

研究人员、政策制定者和数据科学家可以建立平衡开放性、隐私和安全性的法规和标准，而不会扼杀创新。这些法规可以创建框架，鼓励知识共享，同时解决潜在风险和为关键系统的透明度和可解释性制定期望。

所有与 AI 开发和部署相关的各方都应优先考虑透明度，记录其决策过程，提供源代码，并将透明度作为 AI 系统开发的核心原则。这使每个人都有机会在探索使 AI 算法更易解释的方法和开发促进复杂模型理解和解释的技术方面发挥关键作用。

最后，公众参与在此过程中至关重要。通过提高人们对 AI 透明度的认识并促进公众讨论，我们可以确保社会价值观反映在 AI 系统的开发和部署中。

结论

随着 AI 日益融入我们生活的各个方面，AI 透明度和开放源码模型的使用变得至关重要。接受可检查的 AI 不仅可以确保公平和问责，还可以促进创新、防止权力的集中，并促进对 AI 进步的公平获取。

通过优先考虑透明度，实现对 AI 模型的审查，并促进合作，我们可以共同塑造一个造福所有人的 AI 未来，同时解决与这一变革性技术相关的道德、社会和技术挑战。