人工智能研究人员提出针对人工智能偏见的赏金制度，以使人工智能更加道德

一组来自英特尔、谷歌大脑和OpenAI等公司和人工智能开发实验室的研究人员建议使用赏金制度来确保人工智能的道德使用。研究人员最近发布了一系列关于人工智能使用的道德提案，其中包括一个建议，即奖励发现人工智能偏见的人可以有效地使人工智能更加公平。

据VentureBeat报道，来自美国和欧洲各公司的研究人员联合起来，制定了一套人工智能开发的道德指南，以及如何满足这些指南的建议。研究人员提出的一个建议是为发现人工智能程序偏见的开发人员提供赏金。这个建议是在一篇题为“朝着可靠的人工智能开发：支持可验证声明的机制”的论文中提出的。

作为研究人员希望解决的偏见的例子，偏见的数据和算法已被发现存在于从医疗应用到执法机构使用的面部识别系统等一切事物中。其中一个偏见的例子是最近由美国司法部使用的PATTERN风险评估工具，用于在应对冠状病毒疫情时减少监狱人口规模，决定哪些囚犯可以被送回家。

奖励开发人员发现计算机程序中不良行为的做法是很久以前就有的，但这是第一次人工智能伦理委员会认真提出了这个想法作为对抗人工智能偏见的选择。虽然不太可能有足够多的人工智能开发人员能够找到足够多的偏见以确保人工智能的道德性，但这仍然可以帮助公司减少整体偏见，并更好地了解哪些偏见正在渗入他们的人工智能系统中。

论文的作者解释说，漏洞赏金的概念可以通过使用偏见和安全赏金来扩展到人工智能，并且正确使用这种技术可以带来更好的数据和模型文档。文档将更好地反映模型和数据的局限性。研究人员甚至指出，同样的想法可以应用于其他人工智能属性，如可解释性、安全性和隐私保护。

随着更多关于人工智能伦理原则的讨论，许多人指出，原则本身是不够的，必须采取行动来保持人工智能的道德性。论文的作者指出，“行业和学术界现有的法规和规范不足以确保负责任的人工智能开发。”谷歌大脑的联合创始人和人工智能行业领袖Andrew Ng也表示，指导原则本身缺乏确保人工智能被负责任和公平使用的能力，认为许多原则需要更明确和有行动的想法。

联合研究团队关于偏见赏金狩猎的建议是尝试超越伦理原则，进入伦理行动领域。研究团队还提出了其他几项建议，旨在促进人工智能领域的伦理行动。

研究团队提出了几项建议，公司可以遵循这些建议以使其人工智能使用更加道德。他们建议创建一个集中的人工智能事件数据库，并在更广泛的人工智能社区中共享。同样，研究人员提议建立审计跟踪，并且这些跟踪应该保留有关创建和部署安全关键应用程序在人工智能平台上的信息。

为了保护人们的隐私，研究团队建议使用以隐私为中心的技术，例如加密通信、联合学习和差异隐私。除此之外，研究团队建议开放源代码替代方案应被广泛提供，并且商业人工智能模型应受到严格审查。最后，研究团队建议增加政府资金，以便学术研究人员能够验证硬件性能声明。因此，人工智能研究人员将能够更好地确保人工智能的道德使用，并减少人工智能偏见的风险。