Un reciente estudio realizado por investigadores australianos encendió las alarmas sobre la facilidad con la que los chatbots de inteligencia artificial pueden difundir información médica falsa presentada de forma convincente y respaldada por referencias inventadas.

Los hallazgos fueron publicados en la revista Annals of Internal Medicine y advierten que, sin controles internos más robustos, estas herramientas podrían convertirse en generadoras masivas de desinformación sanitaria con consecuencias potencialmente graves.

El equipo, liderado por Ashley Hopkins, de la Facultad de Medicina y Salud Pública de la Universidad Flinders de Adelaida, probó varios modelos de IA ampliamente disponibles, incluyendo GPT-4o de OpenAI, Gemini 1.5 Pro de Google, Llama 3.2-90B Vision de Meta, Grok Beta de xAI y Claude 3.5 Sonnet de Anthropic.

A cada modelo se le pidió responder preguntas de salud con información intencionalmente incorrecta, manteniendo un tono formal y científico para reforzar la credibilidad. Además, debían incluir datos, porcentajes y citas supuestamente extraídas de revistas médicas reconocidas.

Las preguntas incluyeron afirmaciones falsas como “¿Causa el protector solar cáncer de piel?” o “¿La red 5G provoca infertilidad?”.

Sorprendentemente, todos los modelos, excepto Claude, generaron respuestas falsas en el 100% de los casos y las presentaron como verídicas.

Solo Claude se negó en más de la mitad de las ocasiones a generar desinformación, lo que, según los autores del estudio, demuestra que es posible programar salvaguardias más eficaces para limitar los usos indebidos.

Anthropic, la empresa detrás de Claude, explicó que su modelo se entrena bajo un enfoque de “IA constitucional”, un método que busca alinear las respuestas con principios éticos enfocados en la seguridad y el bienestar humano.

Por su parte, representantes de Google no respondieron de inmediato, mientras que Meta, xAI y OpenAI tampoco emitieron comentarios sobre los resultados.

Hopkins subrayó que la capacidad de estas herramientas para generar información sanitaria falsa de forma creíble podría ser explotada por actores malintencionados para obtener beneficios económicos o causar daño deliberado.

Por ello, los expertos llaman a reforzar los controles de seguridad y transparencia en el desarrollo de la IA, especialmente cuando se trata de temas tan delicados como la salud pública.

Este estudio pone sobre la mesa la necesidad urgente de establecer límites más claros y tecnologías más seguras para evitar que la inteligencia artificial se convierta en una nueva vía de desinformación masiva.