初创公司公正的目标是通过区块链提高数据透明度，对抗数据偏见

人工智能中数据偏差的影响是有据可查的，随着人工智能和机器学习算法进一步渗透到社会的各个角落，人工智能公司正在寻找新的方法来确保他们开发的算法不会继承人类的偏见。人工智能和机器学习领域的新参与者之一是一家透明命名的初创公司，旨在减少数据偏差 无偏见。 不偏不倚 推出了新的数据市场 在活跃的区块链平台上 终极目的，希望为客户提供去中心化、隐私优先的数据科学和人工智能工具和应用。

预计全球人工智能市场将在未来十年继续快速增长，到 266 年将达到约 2027 亿美元。未来四年内，全球人工智能系统和相关组件的支出预计将翻一番，达到约据 IDC 预测，到 110 年将达到 2024 亿美元。 人工智能算法在越来越多的行业中迅速采用，引发了人们对人工智能系统的透明度、隐私性、公平性和代表性的日益担忧。

通过透明度减少偏见

根据一个 CapGemini研究院最新发布的报告题为“人工智能与道德难题：组织如何构建道德上稳健的人工智能系统并获得信任”，人工智能的道德使用已成为全面 IT 领导者的主要关注点，大多数 IT 领导者现在都对人工智能的道德使用表示担忧。人工智能系统的潜在滥用。 大约十分之九的 IT 组织表示，他们知道至少一起因人工智能系统的应用而产生道德问题的事件。 大约三分之二的 IT 高管表示，他们意识到人工智能系统中潜在的歧视性偏见，大约一半的 IT 组织制定了旨在促进人工智能发展的道德章程，而 9 年只有 10% 的 IT 公司拥有这一比例。

虽然关于如何使人工智能算法更加公平的研究仍在继续，但许多伦理学家和人工智能专家将重点放在用于训练人工智能的数据上。 随着人工智能算法变得更加普遍和标准化，重点正在转向获取训练模型所需的数据。

有很多 减少人工智能算法中数据偏差的方法。 一些技术涉及在模型训练时对模型或训练数据进行调整。 这些技术是“处理中”偏差校正技术。 这包括使用对抗性训练技术，即通过惩罚模型对相关特征进行预测的能力来控制某些敏感特征/变量（例如性别或种族）。 这样做的同时尝试最小化模型的误差。 相反，专注于从数据集中消除偏差是一种预处理技术。 机器学习模型的训练数据通常是手动标记的，区块链的应用可以帮助企业跟踪其数据的标记过程，以确保其数据集具有代表性。

Unbiased 希望利用区块链在数据集和数据市场中营造透明的文化。 大多数用于为人工智能系统和机器学习算法生成数据集的工具都是集中式的，因此它们通常缺乏透明度。 Unbiased 的目标是利用区块链的性质来记录其数据市场上发生的行为，其中包括数据交换、任务和项目的方程式以及工作人员的贡献。 目标是 Telos 区块链的去中心化特性促进透明度，使用户能够获得有关其数据科学性质的关键信息。 用户将能够验证他们的数据集并确定是否根据某些道德原则（例如公平和隐私）进行了注释。

Telos Blockchain 首席架构师表示，人工智能/机器学习与区块链的交叉可以带来变革性的数据处理新方法。 正如 AIthity 引用 Horn 的话：

“Unbiased 将向这些行业展示如何在像 Telos 这样的高性能、免费区块链上记录数据，从而为他们的产品增加透明度、不变性、小额支付和治理，从而造福所有利益相关者。”

除了训练数据的透明度之外，一些科学家和研究人员还 推动算法、模型和代码更加透明。 一个国际科学家团队呼吁科学期刊要求计算机科学研究人员遵守更高的透明度标准。 研究人员认为，人工智能模型和代码的更大透明度不仅有助于研究的可重复性，而且有助于研究小组之间的合作。 许多科学研究无法重现，对于遗漏关键材料的人工智能研究来说，这是一个更大的问题。 未来，区块链甚至可以用来改善人工智能领域研究的跟踪和评估。