国際的な科学者たちがAI研究における透明性の向上を求める

プリンセス・マーガレット・キャンサー・センター、トロント大学、スタンフォード大学、ジョンズ・ホプキンス大学、ハーバード大学公衆衛生大学院、マサチューセッツ工科大学などの機関から来た国際的な科学者グループは、人工知能（AI）研究における透明性の向上を求めています。この呼びかけの背後にある大きな力は、がん治療を促進するための重要な発見を解放することです。

科学者たちが科学雑誌にAI研究における透明性の向上を求めた記事は、2020年10月14日にネイチャーに掲載されました。グループは、研究者たちがコード、モデル、計算環境を公開することを主張しました。

論文のタイトルは「人工知能における透明性と再現性」でした。

AI研究の詳細の公開

ベンジャミン・ハイベ＝ケインズ博士は、プリンセス・マーガレット・キャンサー・センターのシニア・サイエンティストであり、論文の第一著者です。

「科学的進歩は、研究者が研究結果を検証し、主要な発見を再現して学ぶ能力に依存しています」とハイベ＝ケインズ博士は述べています。「しかし、計算機による研究では、AI研究の詳細が完全にアクセス可能であるという基準がまだ広く受け入れられていません。これは私たちの進歩に悪影響を及ぼしています。」

懸念は、2020年にマッキニーらによって主要な科学雑誌に発表された、AIシステムが人間の放射線技師よりもがん検査において堅牢性と速度で優れていると主張したグーグル・ヘルス研究に続いて生じました。この研究は、様々なトップ雑誌で多くのメディアの注目を集めました。

モデルの再現性の欠如

研究に続いて生じた主な懸念の1つは、研究で使用された方法、コード、モデルが十分に記述されていないことです。この透明性の欠如により、研究者はモデルがどのように動作するかを学ぶことができず、モデルが他の機関で使用できないことになりました。

「紙上では理論的には、マッキニーらの研究は美しいものですが」とハイベ＝ケインズ博士は述べています。「しかし、学ぶことができないのであれば、それにはほとんど科学的な価値がありません。」

ハイベ＝ケインズ博士は、トロント大学の医療生物物理学の准教授にも任命されました。彼はまた、人工知能のベクター研究所のアフィリエイトです。

「研究者は、研究結果を公開することよりも、研究が再現可能であることを保証するための時間とリソースを費やすことよりも、研究結果を公開することに重点を置いています」とハイベ＝ケインズ博士は続けています。「雑誌はAIの『ハYPE』に弱く、再現可能な研究に必要なすべての資料を含まない論文を受け入れる基準を低くするかもしれません。つまり、自分のガイドラインに反することになります。」

この環境では、AIモデルが臨床現場に到達するまでに時間がかかり、モデルの再現性や学習が困難になる可能性があります。

研究者グループは、この問題を解決し、方法を共有するための様々なフレームワークやプラットフォームを提案しました。

「私たちは、がん患者さんにとってのAIの有用性について高い期待を持っています」とハイベ＝ケインズ博士は述べています。「私たちの発見を共有し、構築することが本当の科学的影響です。」