初创公司 Unbiased 致力于通过区块链提高数据透明度，打击数据偏见

人工智能中的数据偏见影响已经被充分记录，随着人工智能和机器学习算法渗透到社会的每个角落，人工智能公司正在寻找新的方法来确保他们开发的算法不会继承人类偏见。人工智能和机器学习领域的新玩家之一是透明命名的初创公司 Unbiased。Unbiased 推出了一个新的数据市场，位于活跃的区块链平台 Telos 上，希望为客户提供去中心化、以隐私为首要的数据科学和人工智能工具和应用。全球人工智能市场预计将在未来十年内继续快速增长，到2027年将达到约2660亿美元。未来四年内，全球对人工智能系统和相关组件的支出预计将翻倍，到2024年将达到约1100亿美元，根据IDC的数据。人工智能算法在越来越多行业的采用导致了对人工智能系统的透明度、隐私、公平和代表性的日益增长的担忧。

根据 CapGemini 研究院最近发布的一份报告，题为“人工智能和伦理困境：组织如何建立伦理健全的人工智能系统并赢得信任”，人工智能的伦理使用已经成为IT领导者关注的主要问题，绝大多数IT领导者现在都对人工智能系统的潜在滥用表示担忧。约有9分之8的IT组织表示，他们知道至少一起由人工智能系统应用引起的伦理问题。约有三分之二的IT高管表示，他们知道人工智能系统中可能存在歧视性偏见，约有一半的IT组织有一个旨在为人工智能开发提供伦理指导的章程，而2019年只有5%的IT公司有这样的章程。

通过透明度减少偏见

随着人工智能算法变得更加普遍和标准化，人们的关注点正在转向获取训练模型所需的数据。研究人员继续探索如何使人工智能算法更加公平，许多伦理学家和人工智能专家正将焦点放在用于训练人工智能的数据上。有很多方法可以减少人工智能算法中的数据偏见。一些技术涉及在模型训练过程中调整模型或训练数据。这些技术是“处理过程”偏差纠正技术，包括对抗训练技术，即通过控制某些敏感特征/变量（例如性别或种族）来惩罚模型的预测能力，同时尝试最小化模型的错误。在相反的方面，专注于从数据集中删除偏差是一种预处理技术。机器学习模型的训练数据通常是手动标记的，区块链的应用可以帮助公司跟踪数据标记过程，以确保数据集是代表性的。

Unbiased 正在利用区块链来在数据集和数据市场中培养透明度文化。大多数用于生成人工智能系统和机器学习算法的数据集的工具都是集中式的，因此缺乏透明度。Unbiased 旨在利用区块链的性质来记录数据市场上的操作，包括数据交换、任务和项目的分配以及工人的贡献。目标是 Telos 区块链的去中心化性质可以促进透明度，允许用户获取有关数据科学的关键信息。用户将能够验证数据集并确定是否已按照某些道德原则（如公平和隐私）进行注释。

根据 Telos 区块链的首席架构师，人工智能/机器学习与区块链的交叉点可以带来与数据合作的变革性新方法。正如 Horn 被 AIthority 引用时所说：

“Unbiased 将向这些行业展示如何在像 Telos 这样的高性能、无手续费区块链上记录数据，以增加透明度、不可变性、微支付和治理，造福所有利益相关者。”

除了训练数据的透明度外，一些科学家和研究人员还 倡导算法、模型和代码的透明度。一个国际科学家团队呼吁计算机科学研究人员遵循更高的透明度标准。研究人员认为，人工智能模型和代码的更大透明度不仅可以帮助研究的可重复性，还可以帮助研究小组之间的合作。许多科学研究无法重现，这对人工智能研究来说是一个更大的问题，因为这些研究经常省略关键材料。在未来，区块链甚至可以被用来改善人工智能领域研究的跟踪和评估。区块链技术可以帮助提高人工智能研究的透明度和可靠性，从而促进人工智能领域的发展。通过使用区块链技术，研究人员可以创建一个透明和不可变的记录，记录人工智能模型的开发和训练过程，这可以帮助提高人工智能模型的可靠性和公平性。同时，区块链技术也可以帮助促进研究人员之间的合作和交流，促进人工智能领域的发展。因此，区块链技术有望在人工智能领域发挥重要作用，帮助提高人工智能的透明度、可靠性和公平性。