人工智能与医学伦理：模型在何处失误？

研究人员发现，即使是最先进的人工智能（LLM）模型，如 ChatGPT，在复杂的医学伦理场景中也可能犯重大错误。这项发表在 NPJ Digital Medicine 上的研究强调，在医疗保健环境中，使用人工智能需要谨慎的人工监督。

西奈山伊坎医学院的研究团队与以色列拉宾医学中心合作，修改了著名的伦理困境，以检验 LLM 的能力。例如，在经典的“外科医生困境”中，一个男孩受伤，外科医生惊呼：“我不能给这个男孩做手术——他是我的儿子！”即使在已知父亲是外科医生的情况下，人工智能模型经常错误地认为外科医生是母亲。

同样，在父母同意为孩子进行输血的情况下，一些模型仍然建议推翻一个已经不存在的拒绝。研究结果表明，LLM 可能会依赖熟悉的模式和偏见，而忽略了关键细节。

研究人员强调，人工智能可以作为临床专业知识的补充，但不应取代人类的判断，尤其是在高风险决策中。人工监督对于处理需要伦理敏感性和情商的情况至关重要。