En el nuevo paradigma de la publicación, la IA es indispensable

Los modelos tradicionales de publicación se están reformando rápidamente a medida que el apoyo creciente al acceso abierto sigue aumentando. El año pasado, las presentaciones se dispararon en 30%, según Springer Nature. Pero esta demanda está resultando una espada de doble filo, ya que los artículos retractados han alcanzado un máximo histórico en la última década, y las revistas están inundadas de artículos generados por IA e investigaciones fabricadas.

Naturalmente, esto está provocando cuellos de botella que perjudican a editores, investigadores y revisores. Las publicaciones luchan por cumplir los calendarios editoriales porque los revisores se apresuran a evaluar los manuscritos, y los autores quedan esperando meses, e incluso años, para ser publicados. El modelo actual de revisión por pares nunca fue diseñado para sostener esta escala de demanda.

En medio de esto, es crucial reconocer el papel de la IA como una herramienta de apoyo esencial para reforzar los procesos de revisión por pares existentes y ayudar a la industria a superar sus mayores obstáculos.

Por qué los procesos tradicionales se están rompiendo

La revisión por pares es trabajo no remunerado. Los revisores ofrecen su tiempo como un gesto de buena voluntad hacia las comunidades académicas y científicas. Las exigencias son altas y las recompensas menos atractivas, con todas las presiones acumulándose. Debido al aumento de la demanda y a las tensiones excesivas, cada vez menos revisores aceptan invitaciones para evaluar manuscritos. Además, encontrar revisores es un desafío creciente para los editores, lo que agrava los retrasos y alarga los plazos de publicación.

Al mismo tiempo, los académicos se enfrentan a un entorno de ‘publicar o perecer’. Para avanzar profesionalmente, se espera que tengan trabajos publicados en un panorama cada vez más congestionado. Esta es una expectativa universal en todo el mundo, y existe presión para destacar entre el ruido, además de la tensión de satisfacer la demanda resultante. Estos factores están detrás de la crisis de la revisión por pares, donde el sistema actual, tal como está, no es sostenible.

Para aclarar, las herramientas de IA no deben adoptarse en el proceso de revisión por pares para reemplazar el juicio humano, sino para reforzarlo. Autores y editores esperan un nivel determinado de respeto y dedicación en el proceso de revisión, como se brinda a la investigación.

Sin embargo, pequeños errores pueden pasar desapercibidos con facilidad, especialmente cuando los revisores se apresuran a evaluar una gran cantidad de manuscritos. Para ilustrar, un estudio encontró que en 2020, se dedicaron más de 100 millones de horas —equivalente a 15 000 años— a revisiones por pares a nivel mundial.

Sin embargo, eso no convierte a estos errores en una norma aceptable. Lo que puede parecer una omisión insignificante, como un pequeño defecto en los datos, puede dañar la percepción de los lectores sobre la calidad de la investigación.

IA como herramienta de apoyo, no como sustituto

Las herramientas de IA señalan errores sutiles que de otro modo podrían pasar desapercibidos. Errores de citación, omisiones de datos y posibles superposiciones con la literatura existente son solo algunos ejemplos de errores pequeños pero significativos que los revisores pueden pasar por alto.

Estas herramientas están diseñadas para gestionar tareas de bajo riesgo, de modo que los revisores puedan centrarse en los aspectos más avanzados de la edición, como el análisis experto y la evaluación contextual. Una herramienta está limitada a los datos con los que se alimenta, pero un revisor humano con experiencia especializada puede contextualizar la investigación a un nivel mucho más amplio e informado. Además, un algoritmo no puede sustituir el razonamiento sutil de los expertos en la materia, ni debería hacerlo. Sin embargo, puede aliviar algunas de las cargas de menor riesgo que enfrentan.

La IA puede ayudar a los revisores a ofrecer comentarios más claros y perspicaces, pero solo cuando se usa de manera inteligente. Puede asistir en la confirmación de citas, resaltar problemas metodológicos, detectar datos ausentes y señalar similitudes con investigaciones publicadas anteriormente. Otro motivo por el que atrae a los revisores es el potencial de la búsqueda habilitada por IA para ayudarles a mantenerse al día con nuevos conocimientos.

Sin embargo, de manera crucial, líderes de la industria, como los editores senior de Elsevier, respaldan la importancia del equilibrio. La consideran una herramienta útil para mejorar la calidad de la revisión, pero solo cuando se aplica éticamente y siempre bajo supervisión humana.

Abordar las implicaciones más amplias de la adopción de IA

Las preocupaciones abundan en la comunidad académica. Muy recientemente, los investigadores descubrieron que la afluencia de presentaciones después de ChatGPT ha aumentado en 42%, pero la calidad de la escritura ha sufrido un deterioro. Ese mismo estudio también señaló inquietudes sobre cómo se está utilizando la IA para informar decisiones editoriales cuando se emplea en revisiones por pares.

Además, las directrices y regulaciones aún están poniéndose al día con la tecnología para garantizar que las herramientas se usen de manera ética y moderada. Tanto los individuos como las publicaciones deben comprender los riesgos asociados. Abusar de estas herramientas garantiza sesgos, alucinaciones, conclusiones incorrectas y percepciones falsas.

La comunidad de publicación académica también está preocupada por la privacidad y la confidencialidad. Los autores tienden a sentirse incómodos cuando se integran herramientas externas en el proceso de revisión, especialmente en situaciones donde la investigación contiene datos sensibles. Esta ansiedad por posibles filtraciones es comprensible dado el tiempo y esfuerzo que los autores dedican a su investigación.

Por estas razones, las percepciones sobre la IA en el proceso de revisión son bastante débiles. Una investigación conjunta de KPMG y la Universidad de Melbourne encontró que 46% de las personas están dispuestas a confiar en la IA. Este estudio también reveló que una abrumadora mayoría (70 %) considera que la regulación es necesaria.

Estos factores deben abordarse, lo que requiere capacitación y transparencia sobre cómo se aplica la IA, independientemente del grado en que se utilice en las revisiones por pares. Cualquier persona que use IA en el proceso de revisión debe comprender sus mejores prácticas y aplicar el pensamiento crítico en todo momento. Los revisores y los equipos editoriales necesitarán desarrollar sus habilidades en IA y alfabetización de datos, lo que incluye poder interpretar el comportamiento de los modelos, reconocer sus limitaciones y mitigar riesgos como las alucinaciones.

La transparencia es fundamental para las estrategias de adopción, y las publicaciones y los revisores deben estar preparados para aclarar y justificar el uso de la IA. Las auditorías rutinarias pueden ayudar a confirmar la precisión y la fiabilidad. También es crucial que las publicaciones especifiquen cómo se entrenan los modelos y qué datos los guían. En el ámbito académico, los autores deben siempre demostrar sus métodos de investigación y su razonamiento. El mismo nivel de divulgación debería aplicarse al uso de la IA.

La seguridad de estas herramientas tampoco puede pasarse por alto. El cifrado de datos añade una capa de protección cibernética muy necesaria contra amenazas de terceros, como posibles intentos de hackeo. Nuevamente, las auditorías son una parte vital para reforzar la seguridad, ya que están diseñadas para detectar cualquier punto ciego antes de que cause daño.

La industria se encuentra en una encrucijada, eligiendo entre rechazar la tecnología para aferrarse a los modelos tradicionales de evaluación de la investigación o adoptarla. La primera opción implica que solo es cuestión de tiempo antes de que el proceso se derrumbe bajo la demanda. La segunda, sin embargo, capacita y permite a los editores y revisores no solo mantenerse al día, sino adelantarse a la creciente demanda.