国际科学家呼吁人工智能研究中增加透明度

来自多个机构的国际科学家团队，包括加拿大多伦多大学的公主玛格丽特癌症中心、斯坦福大学、约翰霍普金斯大学、哈佛大学公共卫生学院和马萨诸塞理工学院，正在呼吁人工智能（AI）研究中增加透明度。这种呼吁的主要动力是为了解锁重要的发现，这些发现可以帮助加速基于研究的癌症治疗。

科学家们在《自然》杂志上发表的文章中呼吁科学期刊提高透明度标准，尤其是在计算研究人员中。该团队还提倡同事们在出版物中发布代码、模型和计算环境。

该论文的标题是“人工智能的透明度和可复制性。”

发布人工智能研究细节

本杰明·海贝-凯恩斯博士是公主玛格丽特癌症中心的高级科学家，也是该出版物的第一作者。

“科学进步取决于研究人员能够检查研究结果和重现主要发现以便学习的能力，”海贝-凯恩斯博士说。“但是在计算研究中，人工智能研究的细节尚未被广泛接受为标准。这对我们的进步有害。”

这些担忧是在2020年发表的一项谷歌健康研究之后产生的，该研究由麦金尼等人在一份重要的科学期刊上发表，声称人工智能系统可以在乳腺癌筛查的稳定性和速度方面超越人类放射科医生。该研究得到了各大媒体的广泛关注。

无法复制模型

该研究引发的主要担忧之一是，它没有充分描述所使用的方法、代码和模型。这一缺乏透明度意味着研究人员无法了解模型的工作原理，导致模型无法被其他机构使用。

“在纸面上和理论上，麦金尼等人的研究很漂亮，”海贝-凯恩斯博士说。“但如果我们无法从中学习，那么它的科学价值很小。”

海贝-凯恩斯博士同时被任命为多伦多大学医学生物物理学的副教授。他也是人工智能向量研究所的附属成员。

“研究人员更倾向于发表他们的发现，而不是花时间和资源确保他们的研究可以被复制，”海贝-凯恩斯博士继续说。“期刊容易受到人工智能的‘炒作’，可能会降低接受不包括使研究可复制所需材料的论文的标准——这通常违反了他们自己的指南。”

这种环境意味着人工智能模型可能需要更长时间才能进入临床环境，而且这些模型无法被研究人员复制或学习。

研究人员团队提出了各种框架和平台来解决这个问题，并允许方法被共享。

“我们对人工智能在我们癌症患者中的应用前景充满希望，”海贝-凯恩斯博士说。“分享和建立我们的发现——这才是真正的科学影响。”