Monetyzacja badań dla szkolenia AI: Ryzyka i najlepsze praktyki

Wraz ze wzrostem popytu na generatywne AI, rośnie również zapotrzebowanie na wysokiej jakości dane do szkolenia tych systemów. Wydawcy naukowi zaczęli monetyzować swoją zawartość badawczą, aby dostarczyć dane szkoleniowe dla dużych modeli językowych (LLM). Chociaż ten rozwój tworzy nowy strumień dochodów dla wydawców i umożliwia generatywnemu AI odkrycia naukowe, podnosi to krytyczne pytania dotyczące integralności i niezawodności używanych badań. To podnosi kluczowe pytanie: Czy zestawy danych sprzedawane są godne zaufania, i jakie implikacje ma ta praktyka dla społeczności naukowej i modeli generatywnych AI?

Wzrost umów o monetyzacji badań

Większość wydawców akademickich, w tym Wiley, Taylor & Francis i innych, zgłosiła znaczne przychody z licencjonowania swojej zawartości firmom technologicznym rozwijającym generatywne modele AI. Na przykład, Wiley ujawnił ponad 40 milionów dolarów dochodu z takich umów w tym roku alone​. Te umowy umożliwiają firmom AI dostęp do różnorodnych i rozległych zbiorów danych naukowych, co przypuszczalnie poprawia jakość ich narzędzi AI.

Argument wydawców jest prosty: licencjonowanie zapewnia lepsze modele AI, korzystając społeczeństwu, a także nagradzając autorów tantiemami. Ten model biznesowy korzysta zarówno firmom technologicznym, jak i wydawcom. Jednak rosnąca tendencja do monetyzacji wiedzy naukowej niesie ze sobą ryzyko, szczególnie gdy wątpliwe badania przenikają do zbiorów danych szkoleniowych AI.

Cień fałszywych badań

Społeczność naukowa nie jest obca problemom z fałszywymi badaniami. Badania sugerują, że wiele opublikowanych wyników jest wadliwych, tendencyjnych lub po prostu niewiarygodnych. Badanie z 2020 roku wykazało, że niemal połowa badaczy zgłosiła problemy, takie jak selektywne raportowanie danych lub słabo zaprojektowane studia terenowe. W 2023 roku ponad 10 000 prac zostało wycofanych z powodu sfałszowanych lub niewiarygodnych wyników, liczba ta nadal rośnie każdego roku. Ekspertom wydaje się, że ta liczba reprezentuje czubek lodu, z niezliczonymi wątpliwymi badaniami krążącymi w bazach danych naukowych​.

Kryzys ten został głównie spowodowany przez “młyny badawcze“, organizacje cieni, które produkują sfabrykowane badania, często w odpowiedzi na presję akademicką w regionach takich jak Chiny, Indie i Europa Wschodnia. Szacuje się, że około 2% zgłoszeń do czasopism na całym świecie pochodzi z młynów badawczych. Takie fałszywe prace mogą przypominać prawdziwe badania, ale są pełne fikcyjnych danych i bezpodstawnych wniosków. Niepokojąco, takie prace przechodzą przez recenzję i trafiają do szanowanych czasopism, podważając wiarygodność wglądu naukowego​. Na przykład, podczas pandemii COVID-19, wadliwe badania na temat ivermektyny fałszywie sugerowały jego skuteczność jako leczenie, siejąc zamieszanie i opóźniając skuteczne reakcje zdrowia publicznego. Ten przykład podkreśla potencjalną szkodę wynikającą z rozpowszechniania niewiarygodnych badań, gdzie wadliwe wyniki mogą mieć znaczący wpływ.

Konsekwencje dla szkolenia AI i zaufania

Implikacje są ogromne, gdy LLM szkoli się na bazach danych zawierających fałszywe lub niskiej jakości badania. Modele AI używają wzorców i relacji w danych szkoleniowych, aby generować dane wyjściowe. Jeśli dane wejściowe są skażone, dane wyjściowe mogą utrwalać nieścisłości lub nawet je nasilać. To ryzyko jest szczególnie wysokie w dziedzinach takich jak medycyna, gdzie błędne AI-mogące spostrzeżenia mogą mieć zagrożenia dla życia.
Ponadto problem ten zagraża zaufaniu publicznego do akademii i AI. Podczas gdy wydawcy kontynuują zawieranie umów, muszą rozwiązać obawy dotyczące jakości danych, które są sprzedawane. Niepowodzenie w tym może zaszkodzić reputacji społeczności naukowej i podważyć potencjalne korzyści społeczne AI.

Zapewnienie godnych zaufania danych dla AI

Zmniejszenie ryzyka, że wadliwe badania zakłócają szkolenie AI, wymaga wspólnego wysiłku wydawców, firm AI, deweloperów, badaczy i szerszej społeczności. Wydawcy muszą poprawić proces recenzji, aby złapać niewiarygodne badania, zanim trafią one do zbiorów danych szkoleniowych. Oferowanie lepszych nagród dla recenzentów i ustalenie wyższych standardów może pomóc. Otwarty proces recenzji jest kluczowy w tym przypadku. Przynosi więcej przejrzystości i odpowiedzialności, pomagając budować zaufanie do badań.
Firmy AI muszą być bardziej ostrożne przy wyborze partnerów do pozyskiwania badań do szkolenia AI. Wybór wydawców i czasopism z silną reputacją za wysokiej jakości, dobrze przeglądane badania jest kluczowy. W tym kontekście warto przyjrzeć się uważnie rekordowi wydawcy — jak często wycofują prace lub jak otwarcie mówią o swoim procesie recenzji. Bycie selektywnym poprawia niezawodność danych i buduje zaufanie w społecznościach AI i badawczych.

Deweloperzy AI muszą wziąć odpowiedzialność za dane, które używają. Oznacza to współpracę z ekspertami, staranne sprawdzanie badań i porównywanie wyników z wielu studiów. Narzędzia AI same w sobie mogą być również zaprojektowane do identyfikacji podejrzanych danych i zmniejszania ryzyka rozprzestrzeniania się wątpliwych badań.

Przejrzystość jest również kluczowym czynnikiem. Wydawcy i firmy AI powinny otwarcie udostępnić szczegóły na temat tego, jak badania są używane i gdzie trafiają tantiemy. Narzędzia takie jak Generative AI Licensing Agreement Tracker pokazują obietnicę, ale potrzebują szerszego zastosowania. Badacze również powinni mieć głos w tym, jak ich praca jest używana. Polityki optyczne, takie jak te od Cambridge University Press, dają autorom kontrolę nad ich wkładem. To buduje zaufanie, zapewnia sprawiedliwość i powoduje, że autorzy aktywnie uczestniczą w tym procesie.

Ponadto, otwarty dostęp do wysokiej jakości badań powinien być zachęcany, aby zapewnić inkluzywność i sprawiedliwość w rozwoju AI. Rządy, organizacje non-profit i gracze przemysłowi mogą finansować inicjatywy otwartego dostępu, zmniejszając uzależnienie od wydawców komercyjnych dla krytycznych zbiorów danych szkoleniowych. Dodatkowo, branża AI potrzebuje jasnych zasad dla etycznego pozyskiwania danych. Koncentrując się na niezawodnych, dobrze przeglądanych badaniach, możemy budować lepsze narzędzia AI, chronić integralność naukową i utrzymywać zaufanie publiczne do nauki i techniki.

Podsumowanie

Monetyzacja badań dla szkolenia AI przedstawia zarówno szanse, jak i wyzwania. Chociaż licencjonowanie treści akademickiej pozwala na rozwój potężniejszych modeli AI, podnosi to również obawy dotyczące integralności i niezawodności używanych danych. Wadliwe badania, w tym te z “młynów badawczych”, mogą skażać zestawy danych szkoleniowych AI, prowadząc do nieścisłości, które mogą podważyć zaufanie publiczne i potencjalne korzyści AI. Aby zapewnić, że modele AI są budowane na godnych zaufania danych, wydawcy, firmy AI i deweloperzy muszą współpracować, aby poprawić procesy recenzji, zwiększyć przejrzystość i priorytetowo traktować wysokiej jakości, dobrze sprawdzone badania. Dzięki temu możemy zabezpieczyć przyszłość AI i utrzymać integralność społeczności naukowej.