בינה מלאכותית ובריאות: למה אסור לסמוך עליה

אמריקאי בן 60 פיתח ברומיזם, מחלה נדירה, לאחר שהתייעץ עם ChatGPT לגבי תחליף למלח שולחן (נתרן כלורי). ChatGPT הציע נתרן ברומי.

רופאים מזהירים מפני הסכנות בשימוש בבינה מלאכותית לבעיות בריאות, במיוחד כאשר היא מציעה פתרונות מבלי להתחשב בהיסטוריה הרפואית של המטופל.

המטופל הציג התנהגויות פסיכוטיות ונזקק לאשפוז. רופאים גילו שהוא נטל נתרן ברומי, חומר ששימש כחומר הרגעה בתחילת המאה ה-20.

מחברי המאמר ב-Annals of Internal Medicine מדגישים שבינה מלאכותית עלולה להוביל לאי דיוקים מדעיים ולמידע מוטעה. למרות שחברת ChatGPT טוענת שהצ'אטבוט שודרג, מומחים מזהירים שהוא אינו מחליף ייעוץ רפואי מקצועי.

רופאים קוראים לעמיתיהם לשקול את האפשרות שמטופלים מקבלים מידע בריאותי מבינה מלאכותית ולייעץ להם לפנות לעזרה רפואית מקצועית.