Künstliche Intelligenz und Gesundheit: Warum Sie ihr nicht vertrauen sollten

Ein 60-jähriger Amerikaner entwickelte Bromismus, eine seltene Krankheit, nachdem er ChatGPT nach einem Ersatz für Kochsalz (Natriumchlorid) gefragt hatte. ChatGPT schlug Natriumbromid vor.

Ärzte warnen vor den Gefahren des Einsatzes künstlicher Intelligenz bei Gesundheitsproblemen, insbesondere wenn diese Lösungen vorschlägt, ohne die Krankengeschichte des Patienten zu berücksichtigen.

Der Patient zeigte psychotische Verhaltensweisen und musste ins Krankenhaus eingeliefert werden. Ärzte stellten fest, dass er Natriumbromid eingenommen hatte, eine Substanz, die im frühen 20. Jahrhundert als Beruhigungsmittel verwendet wurde.

Die Autoren des Artikels in den Annals of Internal Medicine betonen, dass künstliche Intelligenz zu wissenschaftlichen Ungenauigkeiten und Fehlinformationen führen kann. Obwohl die Firma ChatGPT behauptet, dass der Chatbot aktualisiert wurde, warnen Experten davor, dass er keinen professionellen medizinischen Rat ersetzt.

Ärzte fordern ihre Kollegen auf, die Möglichkeit in Betracht zu ziehen, dass Patienten Gesundheitsinformationen von künstlicher Intelligenz erhalten, und ihnen zu raten, professionelle medizinische Hilfe in Anspruch zu nehmen.