Inteligencia Artificial y Ética Médica: ¿Dónde tropiezan los modelos?

Investigadores han descubierto que incluso los modelos más avanzados de inteligencia artificial (LLM), como ChatGPT, pueden cometer errores significativos en escenarios complejos de ética médica. El estudio, publicado en NPJ Digital Medicine, destaca la necesidad de una supervisión humana cuidadosa en el uso de la IA en entornos de atención médica.

El equipo de investigación de la Escuela de Medicina Icahn en Mount Sinai, en colaboración con el Centro Médico Rabin en Israel, modificó dilemas éticos conocidos para examinar las capacidades de los LLM. Por ejemplo, en el clásico "Dilema del Cirujano", donde un niño resulta herido y el cirujano exclama: "¡No puedo operar a este niño, es mi hijo!", los modelos de IA a menudo asumieron incorrectamente que el cirujano era la madre, incluso cuando se les dio la información de que el padre era el cirujano.

De manera similar, en un escenario donde los padres consienten una transfusión de sangre para su hijo, algunos modelos continuaron sugiriendo anular una negativa que ya no existía. Los hallazgos indican que los LLM pueden depender de patrones y sesgos familiares, pasando por alto detalles cruciales.

Los investigadores enfatizan que la IA puede ser útil como complemento a la experiencia clínica, pero no debe reemplazar el juicio humano, especialmente en decisiones de alto riesgo. La supervisión humana es esencial para manejar situaciones que requieren sensibilidad ética e inteligencia emocional.