"Bixonimania": La falsa enfermedad que engañó a la Inteligencia Artificial

Un experimento destacó la vulnerabilidad de los modelos de lenguaje de IA a la desinformación al crear la enfermedad inexistente "bixonimania". La investigadora Almira Osmanovic Thunström creó una narrativa médica falsa en 2024, que fue replicada por chatbots como Copilot y ChatGPT.

"Bixonimania" apareció inicialmente en publicaciones y preimpresiones, con estudios falsos e investigadores inexistentes. A pesar de los signos de fraude, los chatbots presentaron "bixonimania" como una enfermedad oftalmológica real.

Expertos, como Mahmud Omar de la Escuela de Medicina de Harvard, señalan que los modelos de IA son más vulnerables a conclusiones falsas cuando el contenido está escrito en un estilo médico. Alex Ruani del University College London cree que el experimento captura un problema grave en la fiabilidad de la producción de conocimiento.

"Bixonimania" incluso se mencionó en un artículo científico publicado en Cureus, que posteriormente fue retirado. La microbióloga Elisabeth Bik advierte sobre las dimensiones que este fenómeno puede tomar debido al procesamiento automatizado de datos.

Representantes de empresas como Google y OpenAI declararon que sus modelos han mejorado, pero Glenn Cohen de la Facultad de Derecho de Harvard señala que todavía hay preguntas sobre la confianza en tales sistemas.

El caso destaca el riesgo de reproducir datos médicos no corroborados por la Inteligencia Artificial y plantea la cuestión de controlar la verdad antes de que se presente como conocimiento.