Monetyzacja badań dla szkolenia AI: Ryzyka i najlepsze praktyki

Wraz ze wzrostem popytu na generatywne AI rośnie również zapotrzebowanie na wysokiej jakości dane do szkolenia tych systemów. Wydawcy akademickie zaczęli monetyzować swoją zawartość badawczą, aby dostarczyć dane szkoleniowe dla dużych modeli językowych (LLM). Chociaż ten rozwój tworzy nowy strumień dochodów dla wydawców i umożliwia generatywnemu AI odkrycia naukowe, podnosi on również krytyczne pytania dotyczące integralności i niezawodności wykorzystywanych badań. To podnosi kluczowe pytanie: Czy zestawy danych sprzedawane są godne zaufania, a jaki wpływ ma ta praktyka na społeczność naukową i modele AI?

Wzrost umów badawczych opartych na monetizacji

Wydawcy akademickie, w tym Wiley, Taylor & Francis i inni, zgłosili znaczne przychody z licencjonowania swojej zawartości firmom technologicznym rozwijającym generatywne modele AI. Na przykład, Wiley ujawnił ponad 40 milionów dolarów dochodu z takich umów w tym roku. Te umowy umożliwiają firmom AI dostęp do różnorodnych i obszernych zbiorów danych naukowych, co prawdopodobnie poprawia jakość ich narzędzi AI.

Argument wydawców jest prosty: licencjonowanie zapewnia lepsze modele AI, korzystając społeczeństwu i nagradzając autorów tantiemami. Ten model biznesowy korzysta zarówno firmom technologicznym, jak i wydawcom. Niemniej jednak, rosnąca tendencja do monetyzacji wiedzy naukowej niesie ze sobą ryzyko, szczególnie gdy wątpliwe badania przenikają do zbiorów danych szkoleniowych AI.

Cień badań podejrzanych

Społeczność naukowa nie jest obca problemom z oszukańczymi badaniami. Badania sugerują, że wiele opublikowanych wyników jest wadliwych, tendencyjnych lub po prostu niewiarygodnych. W 2020 roku przeprowadzono ankietę, w której prawie połowa badaczy zgłosiła problemy, takie jak selektywne raportowanie danych lub słabo zaprojektowane badania terenowe. W 2023 roku ponad 10 000 prac zostało wycofanych z powodu sfałszowanych lub niewiarygodnych wyników, a liczba ta nadal rośnie każdego roku. Ekspertom wydaje się, że ta liczba stanowi tylko wierzchołek góry lodowej, z licznymi wątpliwymi badaniami krążącymi w bazach danych naukowych.

Kryzys ten został głównie spowodowany przez “młyny badawcze“, organizacje cieni, które produkują sfabrykowane badania, często w odpowiedzi na presję akademicką w regionach takich jak Chiny, Indie i Europa Wschodnia. Szacuje się, że około 2% zgłoszeń do czasopism na całym świecie pochodzi z młynów badawczych. Te fałszywe prace mogą przypominać prawdziwe badania, ale są przepełnione fikcyjnymi danymi i bezpodstawnymi wnioskami. Niepokojąco, takie prace przechodzą przez proces recenzji i trafiają do szanowanych czasopism, podważając wiarygodność wglądu naukowego. Na przykład, podczas pandemii COVID-19, wadliwe badania na temat ivermektyny fałszywie sugerowały jego skuteczność jako leczenie, siejąc zamieszanie i opóźniając skuteczne reakcje zdrowia publicznego. To przykład potencjalnej szkody wynikającej z rozpowszechniania niewiarygodnych badań, gdzie błędne wyniki mogą mieć znaczący wpływ.

Konsekwencje dla szkolenia AI i zaufania

Implikacje są ogromne, gdy LLM są szkolone na danych zawierających fałszywe lub niskiej jakości badania. Modele AI wykorzystują wzorce i relacje w danych szkoleniowych do generowania danych wyjściowych. Jeśli dane wejściowe są skażone, dane wyjściowe mogą utrwalać nieścisłości lub nawet je nasilać. To ryzyko jest szczególnie wysokie w dziedzinach takich jak medycyna, gdzie nieprawidłowe dane wygenerowane przez AI mogą mieć zagrożenia dla życia.
Ponadto, problem ten zagraża zaufaniu publicznego wobec akademii i AI. Podczas gdy wydawcy kontynuują zawieranie umów, muszą oni rozwiązać problemy dotyczące jakości danych, które są sprzedawane. Niepowodzenie w tym może narazić reputację społeczności naukowej i podważyć potencjalne korzyści AI.

Gwarantowanie godnych zaufania danych dla AI

Zmniejszenie ryzyka, że wadliwe badania zakłócają szkolenie AI, wymaga wspólnych wysiłków wydawców, firm AI, deweloperów, badaczy i szerszej społeczności. Wydawcy muszą poprawić swój proces recenzji, aby złapać niewiarygodne badania, zanim trafią one do zbiorów danych szkoleniowych. Oferowanie lepszych nagród dla recenzentów i ustalenie wyższych standardów może pomóc. Otwarty proces recenzji jest kluczowy w tym kontekście. Przynosi on większą przejrzystość i odpowiedzialność, pomagając budować zaufanie do badań.
Firmy AI muszą być bardziej ostrożne przy wyborze partnerów do źródła badań dla szkolenia AI. Wybór wydawców i czasopism z silną reputacją za wysokiej jakości, dobrze przeglądane badania jest kluczowy. W tym kontekście warto przyjrzeć się bliżej rekordowi wydawcy — jak często wycofują prace lub jak otwarcie mówią o swoim procesie recenzji. Bycie wybrednym poprawia niezawodność danych i buduje zaufanie w społeczności AI i badawczej.

Deweloperzy AI muszą wziąć odpowiedzialność za dane, które wykorzystują. Oznacza to współpracę z ekspertami, staranne sprawdzanie badań i porównywanie wyników z wielu studiów. Narzędzia AI same w sobie mogą również zostać zaprojektowane w celu identyfikacji podejrzanych danych i zmniejszenia ryzyka rozprzestrzeniania się wątpliwych badań.

Przejrzystość jest również kluczowym czynnikiem. Wydawcy i firmy AI powinni otwarcie udostępniać szczegóły na temat tego, jak badania są wykorzystywane i gdzie trafiają tantiemy. Narzędzia takie jak Generative AI Licensing Agreement Tracker pokazują obietnicę, ale potrzebują szerszego zastosowania. Badacze również powinni mieć głos w tym, jak ich praca jest wykorzystywana. Polityki optyczne, takie jak te z Cambridge University Press, dają autorom kontrolę nad swoimi wkładami. To buduje zaufanie, zapewnia sprawiedliwość i sprawia, że autorzy aktywnie uczestniczą w tym procesie.

Ponadto, otwarty dostęp do wysokiej jakości badań powinien być zachęcany, aby zapewnić inkluzywność i sprawiedliwość w rozwoju AI. Rządy, organizacje non-profit i gracze przemysłowi mogą finansować inicjatywy open-access, zmniejszając uzależnienie od wydawców komercyjnych w celu uzyskania krytycznych zbiorów danych szkoleniowych. Ponadto, przemysł AI potrzebuje jasnych zasad dla etycznego pozyskiwania danych. Koncentrując się na niezawodnych, dobrze przeglądanych badaniach, możemy budować lepsze narzędzia AI, chronić integralność naukową i utrzymywać zaufanie publiczne do nauki i technologii.

Podsumowanie

Monetyzacja badań dla szkolenia AI przedstawia zarówno możliwości, jak i wyzwania. Chociaż licencjonowanie zawartości akademickiej umożliwia rozwój potężniejszych modeli AI, podnosi ono również obawy dotyczące integralności i niezawodności danych wykorzystywanych. Wadliwe badania, w tym te pochodzące z “młynów badawczych”, mogą skażać zbiory danych szkoleniowych AI, prowadząc do nieścisłości, które mogą podważyć zaufanie publiczne i potencjalne korzyści AI. Aby zapewnić, że modele AI są budowane na godnych zaufania danych, wydawcy, firmy AI i deweloperzy muszą współpracować, aby poprawić procesy recenzji, zwiększyć przejrzystość i priorytetowo traktować wysokiej jakości, dobrze zweryfikowane badania. Dzięki temu możemy zabezpieczyć przyszłość AI i utrzymać integralność społeczności naukowej.