شفافية الذكاء الاصطناعي وحاجة إلى نماذج مفتوحة المصدر

为了保护人们免受人工智能的潜在危害，美国和欧洲联盟的一些监管机构越来越倡导对开放源代码人工智能模型的权力进行控制和制衡。这部分是由大公司控制人工智能开发和塑造人工智能发展以造福他们自己的愿望所驱动的。监管机构还担心人工智能发展的速度，他们担心人工智能发展太快，没有足够的时间建立保障措施来防止其被用于恶意目的。

人工智能权利法案和美国国家标准与技术研究所人工智能风险管理框架，以及欧盟人工智能法案，支持诸如准确性、安全性、非歧视性、安全性、透明度、问责制、可解释性、可理解性和数据隐私等原则。另外，欧盟和美国都预计，标准化组织，无论是政府还是国际实体，都将在为人工智能建立指南方面发挥至关重要的作用。

鉴于这种情况，为了实现一个未来，人们可以检查和监控人工智能系统，透明度和开放源代码模型至关重要。这将使开发人员能够彻底检查、分析和改进人工智能，特别是关注训练数据和过程。

为了成功地将透明度带入人工智能，我们必须了解支撑人工智能的决策算法，揭开人工智能的“黑盒”方法。开放源代码和可检查的模型在实现这一目标方面发挥着重要作用，因为它们提供了对底层代码、系统架构和训练数据的访问，以便审计和检查。这一开放性促进了合作、推动创新，并防止了垄断。

为了实现这一愿景的实现，政策变革、草根倡议和所有利益相关者的积极参与，包括开发人员、公司、政府和公众，是必不可少的。

当前的人工智能状态：集中和控制

目前，人工智能的开发，特别是大型语言模型（LLM），主要集中在大公司手中。这一权力的集中引发了人们对滥用的担忧，并提出了关于公平获取和人工智能进步的公平分配的问题。

特别是，像LLM这样的流行模型在训练过程中缺乏开源替代方案，因为需要大量计算资源，这些资源通常只有大公司才能提供。然而，即使这种情况保持不变，确保训练数据和过程的透明度也是至关重要的，以便于审查和问责。

OpenAI最近引入的针对某些人工智能类型的许可系统引发了人们对监管俘获的担忧，因为这可能不仅影响人工智能的轨迹，还会影响更广泛的社会、经济和政治方面。

需要透明的人工智能

想象一下，依赖于一种技术，它对人类/个人生活做出影响深远的决定，但却没有留下任何痕迹，没有对这些结论背后的理由的理解。这就是透明度变得不可或缺的地方。

首先，透明度至关重要，并建立信任。当人工智能模型变得可观察时，它们会让人们对其可靠性和准确性充满信心。此外，这种透明度还会让开发人员和组织对其算法的结果更加负责。

另一个透明度的关键方面是识别和减轻算法偏见。偏见可以通过多种方式注入人工智能模型中。

• 人为因素：数据科学家容易将自己的偏见注入模型中。
• 机器学习：即使科学家创建了完全客观的人工智能，模型仍然容易受到偏见的影响。机器学习从一个定义明确的数据集开始，但然后被释放到新的数据中，创建新的学习路径和新的结论。这些结果可能是无意的、有偏见的或不准确的，因为模型试图在所谓的“数据漂移”中自行进化。

了解这些潜在的偏见来源以便识别和减轻它们至关重要。一种识别偏见的方法是审计用于训练模型的数据。这包括寻找可能表明歧视或不公平的模式。减轻偏见的另一种方法是使用去偏见技术。这些技术可以帮助从模型中删除或减少偏见。通过透明地表明偏见的可能性并采取措施减轻偏见，我们可以确保人工智能以公平和负责任的方式使用。

透明的人工智能模型使研究人员和用户能够检查训练数据、识别偏见并采取纠正措施来解决它们。通过使决策过程可见，透明度帮助我们努力实现公平性并防止歧视性做法的传播。此外，透明度在整个模型生命周期中都是必要的，以防止数据漂移、偏见和人工智能幻觉，这些幻觉会产生虚假信息。这些幻觉在大型语言模型中尤其普遍，但也存在于所有形式的人工智能产品中。人工智能的可观察性在确保模型的性能和准确性方面也发挥着重要作用，创造了更安全、更可靠的人工智能，减少了错误或意外后果的可能性。

然而，实现人工智能透明度并非没有挑战。需要仔细平衡，以解决诸如数据隐私、安全性和知识产权等问题。这需要实施保护隐私的技术，匿名化敏感数据，并建立促进负责任的透明度实践的行业标准和法规。

使透明的人工智能成为现实

开发能够实现人工智能可检查性的工具和技术对于促进人工智能模型的透明度和问责制至关重要。

除了开发能够实现人工智能可检查性的工具和技术外，技术开发还可以通过围绕人工智能创造透明度文化来促进透明度。鼓励企业和组织透明地使用人工智能也可以帮助建立信任和信心。通过使人工智能模型更容易检查并围绕人工智能创造透明度文化，技术开发可以帮助确保人工智能以公平和负责任的方式使用。

然而，技术开发也可能产生相反的效果。例如，如果科技公司开发出不对公众开放审查的专有算法，这可能会使理解这些算法的工作原理和识别潜在偏见或风险更加困难。确保人工智能造福整个社会而不仅仅是少数人需要很高的合作水平。

研究人员、政策制定者和数据科学家可以建立法规和标准，以在开放性、隐私和安全性之间取得平衡，而不会扼杀创新。这些法规可以创建框架，鼓励知识共享，同时解决潜在风险并为关键系统中的透明度和可解释性定义期望。

所有与人工智能开发和部署相关的各方都应通过记录决策过程、提供源代码并将透明度作为人工智能系统开发的核心原则来优先考虑透明度。这使每个人都有机会在探索使人工智能算法更易解释的方法和开发促进复杂模型理解和解释的技术方面发挥至关重要的作用。

最后，公众参与在此过程中至关重要。通过提高人们对人工智能透明度的认识并促进公众讨论，我们可以确保社会价值观反映在人工智能系统的开发和部署中。

结论

随着人工智能日益融入我们生活的各个方面，人工智能透明度和使用开源模型变得至关重要。接受可检查的人工智能不仅可以确保公平和问责，还可以刺激创新、防止权力的集中，并促进人工智能进步的公平获取。

通过优先考虑透明度、使人工智能模型可审查并促进合作，我们可以共同塑造一个造福所有人的人工智能未来，同时解决与这项变革性技术相关的道德、社会和技术挑战。