W nowym paradygmacie wydawniczym AI jest niezbędna

Tradycyjne modele wydawnicze szybko się przekształcają, ponieważ rosnące poparcie dla otwartego dostępu nieustannie przyspiesza. W zeszłym roku liczba zgłoszeń wzrosła o 30%, według Springer Nature. Jednak to zapotrzebowanie okazuje się mieczem obosiecznym, gdyż liczba wycofanych artykułów osiągnęła najwyższy w historii w minionej dekadzie, a czasopisma są zalane artykułami generowanymi przez AI oraz sfałszowanymi badaniami.

Naturalnie powoduje to wąskie gardła, które szkodzą wydawcom, badaczom i recenzentom. Publikacje mają trudności z dotrzymaniem harmonogramów redakcyjnych, ponieważ recenzenci pośpiesznie oceniają artykuły, a autorzy zostają zmuszeni czekać miesiącami, a nawet latami, na publikację. Obecny model recenzji naukowej nigdy nie został zaprojektowany, aby wytrzymać taką skalę zapotrzebowania.

W tym kontekście kluczowe jest dostrzeżenie roli AI jako niezbędnego narzędzia wspierającego, które wzmacnia istniejące procesy recenzji i pomaga branży pokonać jej największe bariery.

Dlaczego tradycyjne procesy się załamują

Recenzja naukowa to praca nieodpłatna. Recenzenci poświęcają swój czas w geście dobrej woli wobec społeczności akademickich i naukowych. Wymagania są wysokie, a nagrody mniej atrakcyjne przy narastających presjach. Z powodu rosnącego zapotrzebowania i nadmiernych obciążeń, coraz mniej recenzentów przyjmuje zaproszenia do oceny artykułów. Co więcej, pozyskiwanie recenzentów staje się rosnącym wyzwaniem dla redaktorów, co pogłębia zaległości i wydłuża terminy publikacji.

Jednocześnie naukowcy stoją w obliczu środowiska „publikuj albo zgiń”. Aby awansować zawodowo, oczekuje się od nich publikacji w coraz bardziej zatłoczonym otoczeniu. To uniwersalne oczekiwanie na całym świecie, a dodatkowo istnieje presja, by wyróżnić się wśród szumu, oprócz napięcia związanego z zaspokajaniem rosnącego popytu. Te czynniki stoją za kryzysem recenzji, gdzie obecny system, w jego obecnym kształcie, nie jest zrównoważony.

Aby to wyjaśnić, narzędzia AI nie powinny być wprowadzane w proces recenzji w celu zastąpienia ludzkiego osądu, lecz raczej w celu jego wzmocnienia. Autorzy i redaktorzy oczekują określonego poziomu szacunku i zaangażowania w proces recenzji, tak jak w przypadku badań.

Jednak drobne błędy mogą łatwo przejść niezauważone, szczególnie gdy recenzenci spieszą się, aby ocenić dużą liczbę artykułów. Dla ilustracji, jedno badanie wykazało, że w 2020 roku ponad 100 milionów godzin – co odpowiada 15 000 latom – poświęcono na globalne recenzje.

Jednak nie czyni to tych błędów akceptowalną normą. To, co może wydawać się nieistotnym przeoczeniem, jak drobna wada danych, może zaszkodzić percepcji jakości badań przez czytelników.

AI jako narzędzie wsparcia, nie substytut

Narzędzia AI wykrywają subtelne błędy, które w innym wypadku mogłyby zostać przeoczone. Błędy w cytowaniach, brakujące dane oraz potencjalne nakładanie się z istniejącą literaturą to tylko niektóre przykłady drobnych, lecz istotnych błędów, które recenzenci mogą przeoczyć.

Te narzędzia są przeznaczone do obsługi zadań niskiego ryzyka, aby recenzenci mogli skupić się na bardziej zaawansowanych aspektach redagowania, takich jak analiza ekspercka i ocena kontekstowa. Narzędzie jest ograniczone do danych, które otrzyma, ale ludzki recenzent z wyspecjalizowaną wiedzą może umiejscowić badania w znacznie szerszym i bardziej poinformowanym kontekście. Co więcej, algorytm nie może zastąpić subtelnego rozumowania ekspertów tematycznych i nie powinien tego robić. Może jednak złagodzić niektóre z mniej istotnych obciążeń, z którymi się spotykają.

AI może pomóc recenzentom w udzielaniu jaśniejszych i bardziej wnikliwych uwag, ale tylko przy rozważnym użyciu. Może wspierać w weryfikacji cytowań, podkreślaniu problemów metodologicznych, wykrywaniu brakujących danych oraz wskazywaniu podobieństw do wcześniej opublikowanych badań. Kolejnym powodem, dla którego przyciąga recenzentów, jest możliwość wyszukiwania wspomaganego AI, które pomaga im być na bieżąco z nową wiedzą.

Co najważniejsze, liderzy branży, tacy jak starsi redaktorzy w Elsevier, popierają znaczenie równowagi. Postrzegają je jako przydatne narzędzie do podnoszenia jakości recenzji, ale wyłącznie przy etycznym zastosowaniu i zawsze pod nadzorem człowieka.

Rozważanie szerszych implikacji przyjęcia AI

Obawy wśród społeczności akademickiej są liczne. Niedawno badacze odkryli, że napływ zgłoszeń po ChatGPT wzrósł o 42%, ale jakość pisania niestety ucierpiała. To samo badanie zwróciło uwagę na obawy dotyczące sposobu, w jaki AI jest wykorzystywane do informowania decyzji redakcyjnych w recenzjach.

Ponadto wytyczne i regulacje wciąż nadrabiają zaległości względem technologii, aby zapewnić etyczne i umiarkowane użycie narzędzi. Zarówno jednostki, jak i publikacje muszą rozumieć związane z tym ryzyka. Niewłaściwe wykorzystywanie tych narzędzi gwarantuje uprzedzenia, halucynacje, błędne wnioski i fałszywe postrzeganie.

Społeczność wydawnicza w dziedzinie nauki również martwi się o prywatność i poufność. Autorzy często czują się niepewnie, gdy zewnętrzne narzędzia są integrowane z procesem recenzji, szczególnie w sytuacjach, gdy badania zawierają wrażliwe dane. Ten niepokój związany z potencjalnymi wyciekami jest zrozumiały, biorąc pod uwagę ilość czasu i wysiłku, jaki autorzy poświęcają swoim badaniom.

Z tych powodów postrzeganie AI w procesie recenzji jest dość słabe. Wspólne badania KPMG i Uniwersytetu w Melbourne wykazały, że 46% osób jest skłonnych zaufać AI. Badanie to ujawniło również, że przytłaczająca większość (70%) uważa, że regulacje są konieczne.

Należy zająć się tymi czynnikami, co wymaga szkoleń i przejrzystości w zakresie stosowania AI, niezależnie od tego, w jakim stopniu jest ona wykorzystywana w recenzjach naukowych. Każdy, kto używa AI w procesie recenzji, musi rozumieć jej najlepsze praktyki i stosować krytyczne myślenie na każdym etapie. Recenzenci i zespoły wydawnicze będą musiały rozwijać umiejętności w zakresie AI i kompetencji danych, co obejmuje zdolność interpretacji zachowań modeli, rozpoznawanie ich ograniczeń oraz łagodzenie ryzyk, takich jak halucynacje.

Przejrzystość jest podstawą strategii wdrażania, a publikacje i recenzenci muszą być gotowi wyjaśniać i uzasadniać wykorzystanie AI. Rutynowe audyty mogą pomóc w potwierdzaniu precyzji i niezawodności. Ważne jest również, aby publikacje określały, jak modele są trenowane i jakie dane je kształtują. W środowisku akademickim autorzy zawsze muszą wykazywać metody badawcze i uzasadnienie. Taki sam poziom ujawnienia powinien dotyczyć użycia AI.

Bezpieczeństwa tych narzędzi nie można również ignorować. Szyfrowanie danych dodaje niezbędną warstwę ochrony cybernetycznej przed zagrożeniami ze strony podmiotów trzecich, takimi jak potencjalne próby włamania. Ponownie, audyty są kluczowym elementem wzmacniania bezpieczeństwa, ponieważ mają na celu wykrycie wszelkich słabych punktów, zanim spowodują szkodę.

Branża znajduje się na rozdrożu, wybierając albo odrzucenie technologii w celu pozostania przy tradycyjnych modelach weryfikacji badań, albo jej przyjęcie. Pierwsze oznacza, że to tylko kwestia czasu, zanim proces załamie się pod napływem zapotrzebowania. Drugie natomiast daje wydawcom i recenzentom nie tylko możliwość utrzymania tempa, ale także wyprzedzenia rosnącego popytu.