Español (pdf)
Articulo en XML
Referencias del artículo
Traducción automática
Enviar articulo por email
Citado por SciELO 
Similares en
SciELO 
Permalink
La aparición de la inteligencia artificial (IA) constituye un enorme desafío para la edición de las publicaciones científicas. Diversas herramientas de IA se han utilizado en redacción y comunicación académica en años recientes. Autores y editores las utilizan para optimizar la gramática, ortografía y la detección de plagio, como es el caso de Grammarly©, ProWritingAid©, Hemingway Editor©, Turnitin©, entre otros 1. Sin embargo, con el creciente desarrollo y aplicación de la IA en el panorama actual, incluyendo la investigación y su producto final, la publicación científica, se plantea la preocupación en torno a la posibilidad de reemplazar la cognición humana para estos fines 2.
La IA en publicaciones científicas constituye la aplicación de herramientas tecnológicas, cumpliendo reglas lógicas de computación, para la generación de contenidos relacionados a la estructura de un artículo científico 3,4. El rol de la IA en la redacción y creación de un artículo científico ha tenido éxito y popularidad en el mundo editorial durante este último año, con innovación disruptiva tecnológica. Esta optimización es programada por humanos, con propósitos humanos; su función, a fin de cuentas, es permitir realizar tareas de manera más rápida y eficiente 5. Corresponde a los editores de revistas científicas la reflexión sobre el uso de esta herramienta, con el objetivo principal de mejorar la presentación de un artículo, optimizando el proceso de publicación. Como todo instrumento, requiere de un adecuado uso por quienes la utilizan. No es la tecnología, sino cómo se usa, lo que nos plantea un permanente desafío 6, ya que se trata de una herramienta de autoaprendizaje basada en el conocimiento en línea disponible en la actualidad, con precisiones avanzadas y errores disminuidos 7.
La IA requiere de una pieza fundamental con quien interactuar, una instrucción en lenguaje sencillo; surgen así los aplicativos configurados para conversación denominados chatbots, que son programas de IA diseñados para simular conversaciones con humanos, basados en el razonamiento para cotejar información en internet con el fin de proporcionar información a una determinada pregunta. Constituyen ejemplos de chatbots: ChatGPT de OpenAI lanzado en noviembre de 2022 (https://chatgpt.com/), Gemini de Google (https://gemini.google.com/app?hl=es), y Microsoft Copilot (https://copilot.microsoft. com/), que son programas de comprensión del lenguaje natural y de aprendizaje automático. De mayor relevancia para el ámbito académico y científico, los chat bots Consensus (https://consensus.app/), Scispace (https://scispace.com/) y Scholar GPT (https://chatgpt.com/g/g-kZ0eYXlJe scholar-gpt), acceden y procesan información de prestigiosas bases de datos, y que con instrucciones detalladas pueden proporcionar respuestas precisas basadas en investigaciones y artículos científicos.
Asimismo, en enero 2024 la internacionalmente reconocida empresa de análisis global de información, otrora sólo editorial académica, Elsevier, ha lanzado Scopus AI© (https://Elsevier.com/scopus-ai), una herramienta de búsqueda intuitiva de IA generativa utilizando su base de datos académica Scopus, en la que dispone de conocimiento reciente y fiable basado en artículos científicos de notoria relevancia. Por otro lado, instituciones académicas como la Universidad de Stanford ha creado Storm (https://storm. genie.stanford.edu/), plataforma gratuita basada en IA que analiza y sintetiza información de manera coherente para la creación de artículos científicos con referencias actualizadas y relevantes, que permiten su documentación en interacción con otras IA.
El impacto del uso de los chatbots en diversos ámbitos ha generado una gran expectativa y ha sido notorio en el campo de las publicaciones científicas ya que con instrucciones específicas y adecuadas tienen la capacidad de generar contenido, que en gran medida es indistinguible del contenido generado por humanos 1,3.
Somos testigos del desarrollo de una herramienta sin precedentes que sustituye la actividad humana en una tarea concreta que es el intelecto, de diseño complejo pero con análisis y comunicación en lenguaje natural, con potencial autonomía en la capacidad de generar nuevo conocimiento.
Inteligencia artificial en la redacción de artículos científicos
La factibilidad de uso de la IA permite la redacción de la estructura de un artículo científico en sus diversas secciones: título, resumen, introducción, métodos, resultados, tablas y gráficos, discusión, conclusiones, y referencias bibliográficas, según el estilo de cada revista. En el aspecto de diseño metodológico, generan hipótesis e identifican métodos; asimismo, recopilan y extraen observaciones de grandes conjuntos de datos y realizan el análisis de la información 8.
Para los artículos de revisión, debido a que requieren de un análisis bibliográfico extenso y una adecuada estructura que muestre con precisión los hallazgos científicos destacados sobre un tema, la IA tiene el potencial de analizar de manera rápida fuentes de información pertinentes, con fluidez y en lenguaje comprensible, garantizando la calidad del mismo. Este aspecto se potencia al proporcionar a la IA un listado de publicaciones previamente revisadas por los autores, con lo que se incrementa la validez del contenido al mostrar fuentes relevantes sobre el tema 4. Es notorio el ahorro de tiempo por parte de los autores, en especial si se añade el desafío de escribir en un idioma no nativo 9.
Según el International Committee of Medical Journal Editors (ICMJE), en la reciente actualización 2024 de las recomendaciones para la realización, presentación, edición y publicación de trabajos académicos en revistas médicas, propone que los editores deben solicitar a los autores la declaración de utilización de IA en el artículo enviado, describiendo cómo fue utilizada. Asimismo, la IA no puede ser autor de un manuscrito, ya que no puede ser responsable de la precisión, integridad, y originalidad de una investigación, requisitos indispensables para la autoría. Así, los humanos son responsables de cualquier material enviado que incluya el uso de IA, revisando el resultado generado por IA, evitando de ese modo que pueda ser incorrecto o sesgado. Los autores deben declarar también si se utilizó IA para la generación de tablas y gráficos 10.
El uso inadecuado de IA puede llevar a conclusiones erradas si es que se indican instrucciones equivocadas. No es razonable pedirle a la IA que escriba un artículo en su totalidad, o solicitarle todas las referencias a utilizar; tampoco usar IA para encubrir un plagio o el uso de otra IA. Los autores deben considerar que no es factible redactar un manuscrito mediante IA sin la adecuada supervisión y revisión.
Inteligencia artificial en la revisión por pares
El proceso de revisión científica por pares, estándar para garantizar la validez e integridad de un artículo publicado, presenta retos actuales relacionados al incremento de volumen de investigaciones, bajo índice de respuesta, sobrecarga de trabajo, y reconocimiento insuficiente. Para los editores de revistas científicas se ha convertido en un desafío permanente encontrar revisores de alta calidad con disponibilidad voluntaria de tiempo y valor de su experiencia, sin remuneración alguna. Ante este panorama, ¿puede la IA reemplazar el proceso de revisión por pares humanos?.
Estudios previos han explorado la eficacia y eficiencia del proceso de revisión por pares, demostrado que la IA puede complementar la revisión científica por pares humana, mejorando la eficiencia y puntualidad del proceso editorial, con lenguaje cortés, y en su mayoría de opinión favorable 11. Asimismo, ha mostrado concordancia respecto a evaluaciones de pares humanos y según algunos investigadores constituye una herramienta útil 12.
El conocimiento, pensamiento crítico y experiencia humana, trasladado al proceso de revisión por pares, por ahora, resulta insustituible; aunque su utilidad en algunos aspectos de la revisión, es promisoria. La convergencia de la IA en la revisión por pares es compleja y tiene potencial transformador en la medida del desarrollo tecnológico. Es factible que eso cambie a medida que se desarrollen los sistemas. La IA probablemente pueda evaluar el cumplimiento de las diversas pautas de presentación de manuscritos; ser menos sesgada con respecto a los autores, las instituciones y el lenguaje, y tal vez detectar la fabricación, falsificación o manipulación de imágenes 13. La experiencia y el criterio de los revisores humanos son vitales para garantizar la calidad, confiabilidad y la validez de los artículos enviados a una revista. Los riesgos del uso de IA pueden generar conclusiones incorrectas, incompletas o sesgadas 14.
Según la reciente actualización de ICMJE, se recomienda que los pares revisores declaren si es que se utilizó IA para facilitar su revisión y de qué manera, conscientes que su uso puede generar resultados incorrectos, incompletos,
o tendenciosos. Asimismo, los revisores deben mantener la confidencialidad del manuscrito 10, con ello se evita el uso de aquellas IA que no garanticen la correspondiente confidencialidad al momento de remitir los datos de un artículo científico en su plataforma.
Inteligencia artificial para editores
Los editores tienen la posibilidad de identificar con precisión fragmentos o texto completo generado por IA, detectando oportunamente manuscritos cuyos autores no declaran el uso de esta herramienta, con la finalidad de mantener la integridad y rigor científico. Para ello, se han diseñado recientemente softwares de detección de IA como GPTZero (https://gptzero.me/), Draft & Goal AI Text Detector (https://detector.dng.ai/), Compilatio AI Content Detector (https://www.compilatio.net/), entre otros, que ayudan en el proceso de evaluación de artículos. La IA muestra especial utilidad en la revisión de un manuscrito en el título, resumen, palabras clave, tablas, gráficos, referencias bibliográficas; así como en la revisión de un artículo de acuerdo a las pautas STROBE, CARE, CROSS, según el tipo de estudio realizado.
Asimismo, la IA proporciona a los editores, con anuencia de los autores, la capacidad de mejorar los títulos y resúmenes de los artículos, incrementando su calidad siempre que se declare y acredite adecuadamente estos procesos en el artículo; agilizando, de este modo, el proceso de edición con la mejora del estilo, gramática y estructura 1.
En la etapa previa al proceso editorial, los editores pueden utilizar estas herramientas de detección de IA para realizar la evaluación preliminar del manuscrito, identificando si el tema ya fue abordado previamente, en la detección de plagio, identificando conflictos de interés, en la ubicación de revisores expertos en el tema, o para le edición de un manuscrito ya aceptado con la finalidad de mejorar la presentación según el estilo de la revista 15. Los editores pueden aceptar de manera errónea los resultados en porcentajes de similitud que emiten los softwares antiplagio, si es que no se verifica la originalidad de un artículo, ya que esta constituye una herramienta que requiere la adecuada interpretación 5.
En la etapa de edición del artículo, como la adaptación de tablas y gráficos, la IA puede minimizar el tiempo y el costo dedicado a este proceso por parte de los editores, permitiendo a las revistas con menos recursos económicos optimizar el tiempo y gastos 2.
Se debe plantear de manera proactiva la integración de la IA como herramienta para los editores en el flujo editorial de manuscritos, con la finalidad de obtener mejores resultados optimizando el tiempo ya que la rapidez de difusión de nuevo conocimiento es crucial, en la actualidad, para la comunicación científica.
Limitaciones de la inteligencia artificial
La redacción científica requiere originalidad, algo inverosímil para la IA, ya que el contenido que genera constituye una síntesis de las propuestas más recurrentes sobre el tema solicitado en el universo de datos de internet utilizados en su entrenamiento. Esto aumenta el riesgo de plagio o alta similitud 1. Asimismo, se presentan distorsiones, irrelevancias, tergiversaciones, causadas por algoritmos que basan la generación de contenido en su aprendizaje automático, amplificando la información errónea y desinformación 17.
En los últimos años, los editores estuvieron en desventaja al tratar de diferenciar lo legítimo de lo fabricado, y los chatbots llevan este desafío a un nuevo nivel, más aún, con la ingente producción científica e innovación predominante en la actual era de la información.
En relación a la revisión por pares y uso de IA por los editores, aunque la IA es útil en la revisión bibliográfica, tiene limitaciones en evaluar y reconocer nuevos hallazgos científicos, relevantes, y extraer de ellos las conclusiones correctas; así, al igual que en la elaboración de un artículo científico, el procesamiento de datos para la revisión de un artículo combinando diversas fuentes de información, puede tener el sesgo de generar información inexacta. Es preciso mencionar que los desarrolladores de IA aún no muestran la transparencia necesaria sobre el desarrollo de sus modelos, generando aún más suspicacia 11.
Es probable que las limitaciones disminuyan con el avance de la IA, pero el razonamiento crítico y sentido común, que requieren de cognición y percepción en relación al mundo físico, biológico, social, no. Es por ello que los recursos que brinda la IA demandan permanente escrutinio y escepticismo.
Controversias: ¿beneficios o riesgos?
Es prematuro responder esa pregunta, ello solo posible en el tiempo en razón de las fortalezas y amenazas de vanguardia tecnológica. La generación de contenidos actuales, en relación a artículos científicos, son evidentes en los componentes de introducción, metodología, análisis de datos, discusión, y revisión bibliográfica; es decir en la estructura de un artículo científico, de manera coherente e informativa. Todo ello representa beneficios propios del desarrollo tecnológico.
Sin embargo, la IA presenta riesgos como el contenido irrelevante sin adecuada supervisión, riesgo de precisión, riesgo de sesgo, riesgo de razonamiento. Ello se debe a que la IA trata relaciones estadísticas entre palabras y no relaciones en el lenguaje. Según los datos que maneja, dependiendo de las fuentes de información programadas, puede presentar sesgos de búsqueda notorios, que pueden llegar a ser plagio de manera inadvertida 16. La IA puede infringir las leyes de derecho de autor, producir resultados inexactos, y la dificultad en discernir entre fuentes importantes o no, de acuerdo a la naturaleza de la consulta, con la consecuente baja calidad e información no relevante, incluso falsa 4.
Por otro lado, si se utiliza IA que no guarda confidencialidad, y se añade un manuscrito cuyo conjunto de datos se está revisando, se coloca el artículo en el dominio público, no guardando la reserva del caso. Los editores y revisores deben garantizar a los autores la respectiva confidencialidad en todo el proceso editorial con la adecuada gestión de la información 11. El uso de IA cuyo acervo incluya artículos de acceso abierto representa una alternativa.
Ante estos riesgos, surge la ética en IA, rama de la ética que nace como respuesta a la preocupación sobre el impacto de la IA en los individuos humanos y sociedades impregnadas de tecnología digital, cuyos conceptos y principios teóricos han sido propuestos 6. Se han planteado legítimas preocupaciones bioéticas como la privacidad y confidencialidad, sesgo y discriminación, responsabilidad y rendición de cuentas, autonomía, impacto social, transparencia, justicia, seguridad y exactitud. Con propuestas y pautas para el uso responsable de la IA en este contexto: transparencia, accesibilidad al desarrollo de la IA, elaboración de sistemas de IA diversos y representativos abordando los sesgos, en concordancia con los principios éticos de respecto por la autonomía y privacidad individuales, involucrando a desarrolladores, investigadores, autores y editores 8.
Posición del Comité Editorial de Anales de la Facultad de Medicina respecto al uso de inteligencia artificial en publicaciones científicas
Anales de la Facultad de Medicina (AFM) en el marco de su gestión editorial, reconoce la necesidad de uso y la regulación de la IA en redacción científica y publicación de artículos, en el contexto del panorama tecnológico actual, recomendando su uso de manera ética y transparente por los autores, revisores y editores, en concordancia con las iniciativas, consensos y recomendaciones que sobre este tema han determinado ICMJE (International Committee of Medical Journal Editors), COPE (Committee on Publication Ethics) y WAME (World Association of Medical Editors), instancias a las que AFM se adhiere. Ante la falta de iniciativa moral de la IA, los autores humanos deben aceptar la responsabilidad por la precisión e integridad del texto que se envía a la revista.
Como parte de la actualización de las instrucciones para los autores 2025, AFM solicitará a los autores la declaración de uso de IA. Asimismo, respecto al uso de IA en publicaciones científicas, las siguientes consideraciones muestran la posición de la revista en el proceso editorial:
No aceptar como autor a la IA, ya que no cumplen los requisitos de autoría de al no asumir la responsabilidad de sus contenidos en relación a la exactitud, originalidad, e integridad del artículo presentado; asimismo, no pueden afirmar la presencia o ausencia de conflictos de interés
Los autores deben asumir la responsabilidad íntegra de la generación de contenidos, incluso de aquellas partes producidas por IA, y por lo tanto son responsables de cualquier incumplimiento de la ética de publicación
-Proponemos el uso de la IA, siempre que se declare las circunstancias y partes del artículo, de manera responsable, con la finalidad de mantener la integridad de lo publicado y del pensamiento crítico de los autores, con la advertencia que lo generado por la IA puede ser irrelevante para la presentación de un manuscrito
El uso de IA debe redactarse en la sección de métodos de cada artículo, brindando información detallada sobre cómo se utilizó la herramienta para la generación de resultados, indicando la fecha, herramienta de IA utilizada, y versión del software. Declarar cómo se utilizó y la parte del texto relevante que se generó; asimismo, la manera en la que se generaron tablas y gráficos. Para lo cual se deben remitir los mensajes y secuencias que se utilizaron para la información producida con un chatbot. Ello con la finalidad del escrutinio científico, que incluye la replicación del estudio inherente a la confiabilidad de la investigación científica. AFM propone a los autores el uso de IA para tareas simples como generación de texto y corrección gramatical
Los autores que envíen un artículo en el que se utilizó la IA, deben hacer constar dicho uso en la sección de agradecimientos
Los contenidos generados por IA como textos, tablas o figuras, serán evaluados por el Comité Editorial considerando la adecuada contribución de acuerdo al tema y tipo de artículo, determinando para ello un porcentaje mínimo aceptable
Para la revisión por pares, es fundamental que los revisores declaren si se está utilizando tecnología de IA para facilitar su revisión y de qué manera, para garantizar que el componente humano no se vea comprometido y la supervisión de la confidencialidad de los datos enviados por los autores. El uso de IA por revisores será comunicado a los editores y a los autores
Los editores de AFM informarán sobre el uso de IA, si es que corresponde, como parte de la evaluación inicial de los artículos enviados a la revista o durante el proceso editorial. El Comité Editorial se abstiene de exponer públicamente el contenido de los manuscritos en IA donde no se garantice la confiabilidad de los datos
AFM utilizará las herramientas necesarias para la detección de IA, con la finalidad de garantizar la integridad de la información publicada en los métodos, hallazgos y conclusiones del estudio presentado
Debemos destacar el impacto transformador y las complejidades éticas del uso de la IA en la redacción, revisión y edición de publicaciones científicas, que permiten optimizar procesos como la escritura científica y revisión por pares, pero que plantea riesgos como el sesgo, la falta de originalidad, y la posible generación de contenido incorrecto. Se trata de una herramienta valiosa cuyo uso requiere de supervisión humana ética y crítica para preservar la integridad científica.
