Монетизація досліджень для навчання ІІ: ризики та найкращі практики

Зростання попиту на генеративний ІІ призводить до зростання потреби у високоякісних даних для навчання цих систем. Видавці наукових публікацій почали монетизувати свій дослідницький контент, щоб забезпечити навчальні дані для великих мовних моделей (LLM). Хоча цей розвиток створює новий потік доходів для видавців і дозволяє генеративному ІІ зробити наукові відкриття, він викликає критичні питання щодо цілісності та надійності використовуваних досліджень. Це викликає важливе питання: чи є набори даних, які продаються, довіреними, і які наслідки має ця практика для наукової спільноти та моделей генеративного ІІ?

Рост монетизованих дослідницьких угод

Основні академічні видавці, включаючи Wiley, Taylor & Francis та інших, повідомили про суттєві доходи від ліцензування свого контенту компаніям, які розробляють генеративні моделі ІІ. Наприклад, Wiley повідомила про понад 40 мільйонів доларів доходу від таких угод лише цього року. Ці угоди дозволяють компаніям ІІ отримувати доступ до різноманітних та розширених наукових наборів даних, що, як передбачається, покращує якість їхніх інструментів ІІ.

Аргумент видавців простий: ліцензування забезпечує кращі моделі ІІ, що приносить користь суспільству та винагороджує авторів роялті. Ця бізнес-модель вигідна як для компаній ІІ, так і для видавців. Однак зростаюча тенденція монетизувати наукову інформацію має ризики, особливо коли сумнівні дослідження проникають у набори даних для навчання ІІ.

Тінь псевдодосліджень

Наукове співтовариство не чуже проблемам псевдодосліджень. Дослідження показують, що багато опублікованих результатів є дефектними, упередженими або просто ненадійними. Опитування 2020 року показало, що майже половина дослідників повідомили про проблеми, такі як селективне повідомлення даних або погано сплановані польові дослідження. У 2023 році понад 10 000 статей були відкликані через фальшиві або ненадійні результати, кількість яких продовжує зростати щороку. Експерти вважають, що ця цифра являє собою лише верхівку айсберга, оскільки безліч сумнівних досліджень циркулює в наукових базах даних.

Криза в основному викликана “фабриками дослідницьких робіт“, тіньовими організаціями, які виробляють фальшиві дослідження, часто у відповідь на академічний тиск у регіонах, таких як Китай, Індія та Східна Європа. Оцінюється, що близько 2% подань журналів у світі походять від фабрик дослідницьких робіт. Ці псевдодослідження можуть нагадувати справжні дослідження, але вони наповнені фальшивими даними та безпідставними висновками. Збурює те, що такі статті проходять через рецензування та потрапляють до поважних журналів, компрометуючи надійність наукових висновків. Наприклад, під час пандемії COVID-19 псевдодослідження про івермектин хибно свідчили про його ефективність як засобу лікування, що посіяло плутанину та сповільнило ефективні заходи громадської охорони здоров’я. Цей приклад підкреслює потенційну шкоду поширення ненадійних досліджень, де хибні результати можуть мати суттєвий вплив.

Наслідки для навчання ІІ та довіри

Наслідки глибокі, коли LLM навчаються на базах даних, які містять фальшиві або низькоякісні дослідження. Моделі ІІ використовують закономірності та відносини у своїх навчальних даних, щоб генерувати виводи. Якщо вхідні дані пошкоджені, виводи можуть поширювати неточності або навіть посилювати їх. Це ризик особливо високий у галузях, таких як медицина, де неправильні висновки ІІ можуть мати життєво небезпечні наслідки.
Крім того, ця проблема загрожує довірі громадськості до академії та ІІ. Коли видавці продовжують укладати угоди, їм потрібно звернути увагу на питання щодо якості даних, які продаються. Невдача у вирішенні цих проблем може нашкодити репутації наукової спільноти та підірвати потенційні вигоди ІІ.

Забезпечення довірчих даних для ІІ

Зменшення ризиків пошкоджених досліджень, які заважають навчанню ІІ, вимагає спільних зусиль видавців, компаній ІІ, розробників, дослідників та ширшої спільноти. Видавці повинні покращити свій процес рецензування, щоб виявити ненадійні дослідження до того, як вони потраплять до навчальних наборів даних. Надання кращих винагород рецензентам та встановлення вищих стандартів може допомогти. Відкритий процес рецензування критичний тут. Він приносить більше прозорості та підзвітності, допомагаючи будувати довіру до досліджень.
Компанії ІІ повинні бути більш обережними щодо того, з ким вони працюють при джерелах досліджень для навчання ІІ. Вибір видавців і журналів з сильною репутацією за високоякісні, добре рецензовані дослідження є ключовим. У цьому контексті варто уважно розглянути історію видавця – наприклад, як часто вони відкликають статті або наскільки відкритими вони є щодо свого процесу рецензування. Бути вибірковим покращує надійність даних та будує довіру в спільнотах ІІ та досліджень.

Розробники ІІ повинні взяти на себе відповідальність за дані, які вони використовують. Це означає роботу з експертами, ретельну перевірку досліджень та порівняння результатів з кількох досліджень. Інструменти ІІ також можуть бути розроблені для виявлення підозрілих даних та зменшення ризиків поширення сумнівних досліджень.

Прозорість також є важливим фактором. Видавці та компанії ІІ повинні відкрито поділитися інформацією про те, як використовуються дослідження та куди йдуть роялті. Інструменти, такі як Трекер ліцензійних угод генеративного ІІ, показують перспективи, але їм потрібна ширша підтримка. Дослідникам також слід мати можливість контролювати, як використовується їхня робота. Політики опт-ін, такі як ті, що використовуються Cambridge University Press, надають авторам контроль над своїми внесками. Це будує довіру, забезпечує справедливість та робить авторів активними учасниками цього процесу.

Крім того, відкритий доступ до високоякісних досліджень повинен бути заохочений, щоб забезпечити інклюзивність та справедливість у розвитку ІІ. Уряди, некомерційні організації та промислові гравці можуть фінансувати ініціативи відкритого доступу, зменшуючи залежність від комерційних видавців для критичних навчальних наборів даних. Крім того, індустрія ІІ потребує чітких правил для джерел даних етично. Зосереджуючись на надійних, добре рецензованих дослідженнях, ми можемо створювати кращі інструменти ІІ, захищати наукову цілісність та підтримувати довіру громадськості до науки та технологій.

Висновок

Монетизація досліджень для навчання ІІ представляє як можливості, так і виклики. Хоча ліцензування академічного контенту дозволяє розробляти потужніші моделі ІІ, це також викликає питання щодо цілісності та надійності використовуваних даних. Псевдодослідження, включаючи ті, що походять з “фабрик дослідницьких робіт”, можуть пошкоджувати навчальні набори даних ІІ, що призводить до неточностей, які можуть підірвати довіру громадськості та потенційні вигоди ІІ. Щоб забезпечити, щоб моделі ІІ будувалися на надійних даних, видавці, компанії ІІ та розробники повинні працювати разом, щоб покращити процеси рецензування, збільшити прозорість та пріоритезувати високоякісні, добре перевірені дослідження. Роблячи це, ми можемо захистити майбутнє ІІ та підтримувати цілісність наукової спільноти.