La inteligencia artificial está fabricando citas en estudios biomédicos, según encuentran investigadores
Una auditoría de millones de artículos biomédicos encontró más de 4,000 citas a investigaciones inexistentes, según un artículo en The Lancet. Estas citas fabricadas pueden socavar las guías clínicas en las que los profesionales de la salud se basan para proporcionar atención, afirmó Maxim Topaz, profesor asociado en la Escuela de Enfermería de Columbia y autor principal del estudio.
Las citas fabricadas son peligrosas porque influyen en las guías clínicas, que se basan en investigaciones públicas que los profesionales de la salud siguen al proporcionar atención, dijo Topaz a CBS News. Topaz señaló que la tasa de referencias falsas en la literatura médica publicada está en aumento, con un crecimiento de 12 veces en los últimos tres años, abarcando casi 3,000 artículos académicos. Además, ninguna de las equivocaciones identificadas por Topaz y su equipo ha sido corregida o retractada, lo que podría seguir influyendo en la atención al paciente.
La experiencia personal de Topaz lo llevó a investigar el problema, ya que una aplicación de IA que utilizaba para ayudar a pulir uno de sus propios artículos científicos insertó una cita falsa, que pasó por varias capas de revisión por pares antes de que un editor atento la detectara. Topaz explicó que estos errores ocurren cuando un autor afirma un hecho y solicita a la IA una cita. En algunos casos, la IA inserta referencias erróneas de manera inadvertida. También se ha observado que algunas herramientas de IA citan a un autor real mientras inventan investigaciones y las atribuyen a esa persona.
Topaz advirtió que esto es solo la punta del iceberg, ya que la investigación en otros campos podría estar sujeta a los mismos problemas. Las citas científicas generadas por IA pueden parecer perfectamente reales, lo que resalta la importancia de que los investigadores verifiquen rigurosamente su trabajo.
¿Qué medidas se deben implementar para garantizar la veracidad de las citas en la investigación científica ante el creciente uso de la inteligencia artificial?
.
.
.
RESUMEN BASADO EN EL ARTÍCULO PUBLICADO EN CBS News EL fecha no especificada. Leer original
https://www.cbsnews.com/news/ai-hallucinate-citations-medial-research/