Durante más de un siglo, las revistas científicas han sido los conductos por los que el conocimiento del mundo natural fluye hacia nuestra cultura. Ahora están siendo obstruidas por la basura de la IA.
Ross Andersen
En una fría tarde noruega a principios de este mes, Dan Quintana, profesor de psicología de la Universidad de Oslo, decidió quedarse en casa y completar una tarea tediosa que llevaba semanas posponiendo. Un editor de una reconocida revista de su especialidad le había pedido que revisara un artículo que estaban considerando publicar. Parecía un trabajo científico sencillo. Nada le alarmó, hasta que Quintana revisó las referencias y vio su propio nombre. La cita de su trabajo parecía correcta (tenía un título plausible e incluía autores con los que había trabajado anteriormente), pero el artículo al que se refería no existía.
A diario, en Bluesky y LinkedIn, Quintana veía a académicos publicar sobre el hallazgo de estas "citas fantasma" en artículos científicos. (La versión inicial del "Informe MAHA" de la administración Trump sobre salud infantil, publicada la primavera pasada, contenía más de media docena). Pero hasta que Quintana encontró un artículo "Quintana" falso citado en una revista que él mismo arbitraba, supuso que el problema se limitaba a publicaciones con estándares más bajos. "Cuando ocurre en una revista que respetas, te das cuenta de lo extendido que está este problema", me dijo.
Durante más de un siglo, las revistas científicas han sido los conductos por los que el conocimiento del mundo natural fluye hacia nuestra cultura. Ahora están siendo obstruidas por la basura de la IA.
La publicación científica siempre ha tenido sus problemas de infraestructura. Incluso antes de ChatGPT, los editores de revistas tenían dificultades para controlar la cantidad y la calidad de los trabajos enviados. Alex Csiszar, historiador de la ciencia en Harvard, me comentó que ha encontrado cartas de editores que se remontan a principios del siglo XIX, en las que se quejan de recibir volúmenes inmanejables de manuscritos. Esta sobreabundancia fue parte de la razón del surgimiento de la revisión por pares. Los editores aliviaban su carga de trabajo enviando artículos a expertos externos. Cuando las revistas proliferaron durante el auge de la financiación científica durante la Guerra Fría, esta práctica se generalizó. Hoy en día es casi universal.
Pero los editores y revisores no remunerados que actúan como guardianes de la literatura científica se ven nuevamente asediados. Casi inmediatamente después de que los grandes modelos lingüísticos se generalizaran, los manuscritos comenzaron a llegar a las bandejas de entrada de las revistas en cantidades sin precedentes. Parte de este efecto se puede atribuir a la capacidad de la IA para aumentar la productividad, especialmente entre los científicos que no hablan inglés y que necesitan ayuda para presentar sus investigaciones. Pero ChatGPT y similares también se están utilizando para dar a trabajos fraudulentos o de mala calidad una nueva apariencia de verosimilitud, según Mandy Hill, directora general de publicaciones académicas en Cambridge University Press & Assessment. Esto hace que la tarea de separar el trigo de la paja sea mucho más laboriosa para editores y revisores, y también más difícil técnicamente. "De ahora en adelante, será una carrera armamentística constante", me dijo Hill.
Adam Day dirige una empresa en el Reino Unido llamada Clear Skies que utiliza IA para ayudar a las editoriales científicas a adelantarse a los estafadores. Me comentó que tiene una ventaja considerable sobre los investigadores de, por ejemplo, fraude financiero, porque las personas a las que persigue publican las pruebas de sus irregularidades donde mucha gente puede verlas. Day sabe que científicos individuales podrían actuar de forma deshonesta y hacer que ChatGPT genere uno o dos artículos, pero no le interesan demasiado estos casos. Como un detective de narcóticos que quiere desmantelar un cártel, se centra en las empresas que cometen fraudes industriales vendiendo artículos en grandes cantidades a clientes científicos.
Estas "fábricas de papel" tienen que trabajar a gran escala, por lo que tienden a reciclar sus propios materiales, incluso hasta el punto de publicar múltiples artículos con textos muy similares. Day me contó que encuentra estas plantillas revisando los artículos marcados como fraudulentos por las editoriales científicas. Cuando detecta una alta tasa de retractaciones en una plantilla en particular, entrena su herramienta para que busque otros artículos sin marcar que podrían haberse producido de la misma manera.
Algunas disciplinas científicas se han convertido en semilleros de basura. Según Jennifer Wright, jefa de integridad de la investigación y ética de la publicación en Cambridge University Press, las editoriales están compartiendo información sobre las más flagrantes. Desafortunadamente, muchos son campos que la sociedad desearía mucho que estuvieran poblados de científicos verdaderamente cualificados, como la investigación del cáncer, por ejemplo. Las editoriales han dado con un modelo muy eficaz para un artículo sobre el cáncer, me comentó Day. Alguien puede afirmar haber analizado las interacciones entre una célula tumoral y tan solo una proteína de las miles que existen, y mientras no informe de un hallazgo drástico, nadie tendrá muchas razones para replicar sus resultados.
La IA también puede generar imágenes para un artículo falso. Un artículo de revisión de 2024, ahora retractado, en Frontiers in Cell and Developmental Biology presentó una ilustración generada por IA de una rata con testículos desproporcionados de forma hilarante. Esta ilustración no solo superó la revisión por pares, sino que se publicó antes de que nadie se diera cuenta. Por muy vergonzoso que esto fuera para la revista, el daño que causó fue mínimo. Mucho más preocupante es la capacidad de la IA generativa para crear imágenes convincentes de tejido en cortes finos, campos microscópicos o geles de electroforesis, que se utilizan comúnmente como evidencia en la investigación biomédica.
Day me comentó que recientemente han surgido oleadas de fraudes con la ayuda de programas de maestría en derecho (LLM) en campos tecnológicos de moda en el ámbito académico, incluyendo la investigación en blockchain. Ahora, irónicamente, el problema está afectando a la propia investigación en IA. Es fácil entender por qué: el mercado laboral para quienes pueden afirmar con credibilidad haber publicado investigaciones originales en aprendizaje automático o robótica es tan sólido, si no más, que el de los biólogos oncólogos. También existe un modelo de fraude para los investigadores de IA: basta con afirmar haber ejecutado un algoritmo de aprendizaje automático con algún tipo de datos y afirmar que produjo un resultado interesante. De nuevo, mientras el resultado no sea demasiado interesante, pocas personas, si es que alguna, se molestarán en verificarlo.
Las actas de congresos son el principal medio de publicación de artículos sobre IA y otras ciencias de la computación, y en los últimos años se han visto saturadas de artículos. NeurIPS, uno de los congresos de IA más importantes, ha duplicado su número en cinco años. ICLR, el congreso líder en aprendizaje profundo, también ha experimentado un aumento, y parece incluir bastante material impreciso: una startup especializada en detección de LLM analizó los artículos enviados para su próximo congreso en Brasil y encontró más de 50 que incluían citas falsas. La mayoría no se había detectado durante la revisión por pares.
Esto podría deberse a que muchas de las revisiones por pares fueron realizadas por IA. Pangram Labs analizó recientemente miles de revisiones por pares enviadas al ICLR y descubrió que más de la mitad se escribieron con la ayuda de un LLM, y aproximadamente una quinta parte fueron generadas íntegramente por IA. En las ciencias académicas, los autores de artículos incluso han comenzado a usar letras blancas diminutas para insertar mensajes secretos dirigidos a los revisores del LLM. Instan a las IA a elogiar el artículo que están leyendo, a describirlo como "innovador" y "transformador", y a evitarles una revisión exhaustiva sugiriendo solo soluciones fáciles.
La basura científica de la IA se ha extendido más allá de las revistas y también está invadiendo otros espacios de difusión de la investigación. En 1991, Paul Ginsparg, quien entonces era físico en el Laboratorio Nacional de Los Álamos, creó un servidor especial donde sus colegas podían subir sus próximos artículos justo después de terminar de escribirlos. De esa manera, podían obtener retroalimentación inmediata sobre estas "preimpresiones" mientras se desarrollaba el notoriamente lento proceso de revisión por pares. El arXiv, como llegó a llamarse el servidor, creció rápidamente y generó sitios hermanos en otras disciplinas. Juntos, ahora forman la manguera de incendios de nuevo conocimiento científico de más rápido movimiento que jamás haya existido. Pero en los meses posteriores al lanzamiento de ChatGPT, los servidores de preimpresiones experimentaron el mismo pico en los envíos que las revistas.
Ginsparg, quien ahora es profesor de ciencias de la información en Cornell, me comentó que esperaba que esta fuera una tendencia pasajera, pero el ritmo de envíos sigue aumentando. Cada preimpresión de arXiv ahora recibe al menos un breve vistazo por parte de un científico antes de su publicación, para garantizar que sea al menos un trabajo científico plausible, pero los modelos están mejorando para superar este obstáculo. En 2025, Ginsparg colaboró con varios colegas en un análisis de los envíos publicados recientemente en arXiv. Descubrieron que los científicos que parecían utilizar un LLM publicaban aproximadamente un 33% más de artículos que los investigadores que no lo hacían.
Una afluencia similar de envíos asistidos por IA ha afectado a bioRxiv y medRxiv, los servidores de preimpresión para biología y medicina. Richard Sever, director científico y de estrategia de la organización sin fines de lucro que los gestiona, me comentó que en 2024 y 2025 vio ejemplos de investigadores que nunca habían enviado un artículo, pero enviaron 50 en un año. Las comunidades de investigación siempre han tenido que filtrar la información basura en los servidores de preimpresión, pero esta práctica solo tiene sentido cuando la relación señal-ruido es alta. "Eso no ocurrirá si 99 de cada 100 artículos son falsificados o falsos", afirmó Sever. "Es potencialmente una crisis existencial".
Dado que publicar en servidores de preimpresión es tan fácil, estos podrían ser los lugares donde la información deficiente de la IA tiene su mayor efecto diluyente en el discurso científico. En las revistas científicas, especialmente en las más prestigiosas, revisores pares como Quintana revisan los artículos con detenimiento. Sin embargo, este tipo de trabajo ya era una carga para los científicos, incluso antes de que tuvieran que enfrentarse a la avalancha de envíos generados por chatbots, y las propias IA también están mejorando. Las señales fáciles de delatar, como la cita falsa que encontró Quintana, podrían desaparecer por completo. Los detectores automatizados de información deficiente también podrían fallar. Si las herramientas se vuelven demasiado eficientes, toda la publicación científica podría verse trastocada.
* Publicado en The Atlantic, 22.01.26.
