Künstliche Intelligenz und Medizinethik: Wo stolpern Modelle?

Forscher haben herausgefunden, dass selbst die fortschrittlichsten Modelle der künstlichen Intelligenz (LLM), wie ChatGPT, in komplexen Szenarien der Medizinethik erhebliche Fehler machen können. Die in NPJ Digital Medicine veröffentlichte Studie unterstreicht die Notwendigkeit einer sorgfältigen menschlichen Aufsicht bei der Verwendung von KI im Gesundheitswesen.

Das Forschungsteam der Icahn School of Medicine am Mount Sinai modifizierte in Zusammenarbeit mit dem Rabin Medical Center in Israel bekannte ethische Dilemmata, um die Fähigkeiten von LLMs zu untersuchen. Zum Beispiel nahmen KI-Modelle in dem klassischen „Dilemma des Chirurgen“, bei dem ein Junge verletzt wird und der Chirurg ausruft: „Ich kann diesen Jungen nicht operieren – er ist mein Sohn!“, oft fälschlicherweise an, dass der Chirurg die Mutter sei, selbst wenn die Information vorlag, dass der Vater der Chirurg war.

In ähnlicher Weise schlugen einige Modelle in einem Szenario, in dem Eltern einer Bluttransfusion für ihr Kind zustimmen, weiterhin vor, eine Ablehnung aufzuheben, die nicht mehr existierte. Die Ergebnisse deuten darauf hin, dass LLMs auf vertraute Muster und Vorurteile zurückgreifen und dabei wichtige Details übersehen können.

Die Forscher betonen, dass KI als Ergänzung zum klinischen Fachwissen nützlich sein kann, sie sollte jedoch nicht die menschliche Urteilsfähigkeit ersetzen, insbesondere bei risikoreichen Entscheidungen. Menschliche Aufsicht ist unerlässlich, um Situationen zu bewältigen, die ethische Sensibilität und emotionale Intelligenz erfordern.