AIトレーニングのための研究の商業化：リスクとベストプラクティス

AIの需要が高まると、トレーニング用の高品質なデータの需要も高まっています。学術出版社は、研究コンテンツを商業化して、大規模な言語モデル（LLM）にトレーニングデータを提供しています。この開発は、出版社に新しい収益源をもたらし、科学的発見のためのジェネレーティブAIを強化していますが、使用される研究の完全性と信頼性について重大な疑問を引き起こしています。この疑問は、販売されているデータセットが信頼できるものであるか、またこの慣行が科学界とジェネレーティブAIモデルにどのような影響を与えるかについてです。

研究の商業化の台頭

主要な学術出版社、ウィリー、テイラー&フランシスなどは、ジェネレーティブAIモデルを開発するテクノロジー企業にコンテンツをライセンスすることで、多大な収益を報告しています。ウィリーは、今年だけで40万ドル以上の収益を上げたと発表しています。これらの契約により、AI企業は多様で広範な科学データセットにアクセスできるようになり、AIツールの品質を向上させることができます。
出版社の売り文は簡単です。ライセンスにより、より優れたAIモデルが開発され、社会に利益をもたらし、著者にロイヤリティをもたらします。このビジネスモデルは、テクノロジー企業と出版社の両方に利益をもたらします。しかし、科学的知識を商業化する傾向は、疑わしい研究がAIトレーニングデータセットに浸透するリスクをもたらします。

疑わしい研究の影

学術コミュニティは、研究の信頼性に関する問題に直面しています。研究によると、多くの研究結果は欠陥があり、偏りがあるか、単に信頼できないものです。2020年の調査では、研究者の中に、データの選択的な報告や設計の悪いフィールド研究などの問題を報告した者がほとんどいました。2023年には、10,000以上の論文が、捏造されたまたは信頼できない結果のため撤回されました。この数字は毎年増加しています。専門家は、この数字が氷山の一角にすぎないと考え、疑わしい研究が科学データベースに広がっていることを示唆しています。
この危機は主に「ペーパーミル」と呼ばれる影の組織によって引き起こされています。これらの組織は、学術的圧力に応じて、しばしば中国、インド、東ヨーロッパなどの地域で、捏造された研究を生み出しています。専門家は、世界中のジャーナルの投稿の約2%がペーパーミルから来ていると推定しています。これらの偽の論文は、正当な研究に似ているかもしれませんが、架空のデータと根拠のない結論で満たされています。心配するべきは、これらの論文が査読を通過して、信頼できるジャーナルに掲載される可能性があることです。これにより、科学的洞察の信頼性が損なわれます。たとえば、COVID-19のパンデミック期间、欠陥のある研究は、イベルメクチンの有効性を誤って示唆し、混乱を招き、効果的な公衆衛生対応を遅らせました。この例は、信頼性のない研究を広めることの潜在的な危害を示しています。欠陥のある結果は、重大な影響を及ぼす可能性があります。

AIトレーニングと信頼性への影響

LLMが、不正確なまたは低品質の研究を含むデータベースでトレーニングされる場合の影響は深刻です。AIモデルは、トレーニングデータ内のパターンと関係を使用して出力を生成します。入力データが汚染されている場合、出力は不正確さを永続させ、またはそれを増幅させる可能性があります。このリスクは、医療などの分野で特に高く、AIによって生成された不正確な洞察が、命を脅かす結果をもたらす可能性があります。
さらに、この問題は、学術界とAIに対する公衆の信頼を脅かします。出版社が継続して契約を結ぶにつれて、販売されるデータの品質に関する懸念に対処する必要があります。そうしない場合、科学コミュニティの評判が損なわれ、AIの潜在的な社会的利益が損なわれる可能性があります。

AIのための信頼できるデータの確保

不正確な研究がAIトレーニングを妨害するリスクを軽減するには、出版社、AI企業、開発者、研究者、そしてより広いコミュニティの共同の努力が必要です。出版社は、信頼性のない研究をデータセットに入れる前に、査読プロセスを改善する必要があります。査読者の報酬を改善し、より高い基準を設定することで、質の高い研究を促進できます。オープンな査読プロセスはここで重要です。これにより、透明性と説明責任がもたらされ、研究に対する信頼が築かれます。
AI企業は、AIトレーニング用の研究を調達する際に、誰と協力するかについてより慎重になる必要があります。出版社やジャーナルが、高品質で徹底的にレビューされた研究で知られているものと協力することが重要です。この文脈では、出版社の実績を注意深く調べることが価値があります。たとえば、論文を撤回する頻度や、レビュープロセスについてどれだけオープンであるかを調べることができます。選択的なアプローチにより、データの信頼性が向上し、AIと研究コミュニティ全体の信頼が築かれます。

AI開発者は、使用するデータに対する責任を負う必要があります。これには、専門家と協力し、研究を慎重に確認し、複数の研究結果を比較することが含まれます。AIツール自体も、疑わしいデータを特定し、信頼性のない研究がさらに広がるリスクを軽減するように設計できます。

透明性も重要な要素です。出版社とAI企業は、研究がどのように使用され、ロイヤリティがどのように分配されるかについて詳細を公開する必要があります。Generative AI Licensing Agreement Trackerなどのツールは、より広範な採用が必要ですが、希望を抱かせます。研究者は、自分の研究がどのように使用されるかについて発言する権利を持つ必要があります。Cambridge University PressのようなOpt-inポリシーは、著者が自分の貢献に対するコントロールを提供し、信頼を築き、公平性を確保し、著者がこのプロセスに積極的に参加できるようにします。

さらに、AI開発のための高品質な研究へのオープンアクセスを促進することで、包摂性と公平性を確保する必要があります。政府、非営利団体、業界のプレーヤーは、オープンアクセスイニシアチブを資金提供することで、商業出版社への依存を減らし、重要なトレーニングデータセットを取得できます。さらに、AI業界は、データを倫理的に調達するための明確なルールを必要とします。信頼性の高い、徹底的にレビューされた研究に焦点を当てることで、より優れたAIツールを構築し、科学的誠実性を保護し、科学と技術に対する公衆の信頼を維持できます。

結論

研究の商業化は、機会と課題の両方をもたらします。学術コンテンツのライセンスは、より強力なAIモデルを開発することを可能にしますが、使用されるデータの完全性と信頼性について懸念も引き起こします。ペーパーミルからの研究を含む、欠陥のある研究は、AIトレーニングデータセットを汚染し、不正確さを永続させ、AIの潜在的な利点を損なう可能性があります。信頼できるデータでAIモデルを構築するには、出版社、AI企業、開発者が協力して、査読プロセスを改善し、透明性を高め、高品質の、徹底的にレビューされた研究を優先する必要があります。そうすることで、AIの将来を守り、科学コミュニティの誠実性を維持できます。