"ביקסונימניה": המחלה המזויפת שהוליכה שולל בינה מלאכותית

ניסוי הדגיש את הפגיעות של מודלי שפה של בינה מלאכותית למידע מוטעה על ידי יצירת המחלה הלא קיימת "ביקסונימניה". החוקרת אלמירה אוסמנוביץ' תונסטרום יצרה נרטיב רפואי מזויף בשנת 2024, אשר שוכפל על ידי צ'אטבוטים כמו Copilot ו-ChatGPT.

"ביקסונימניה" הופיעה בתחילה בפוסטים ובטרום-הדפסות, עם מחקרים מזויפים וחוקרים לא קיימים. למרות סימני ההונאה, צ'אטבוטים הציגו את "ביקסונימניה" כמחלת עיניים אמיתית.

מומחים, כמו מחמוד עומר מבית הספר לרפואה של הרווארד, מציינים שמודלי בינה מלאכותית פגיעים יותר למסקנות שווא כאשר התוכן כתוב בסגנון רפואי. אלכס רואני מהיוניברסיטי קולג' לונדון מאמין שהניסוי מצביע על בעיה חמורה באמינות של הפקת ידע.

"ביקסונימניה" אף הוזכרה במאמר מדעי שפורסם ב-Cureus, אשר לאחר מכן נמשך. המיקרוביולוגית אליזבת ביק מזהירה מפני הממדים שתופעה זו עלולה לקבל עקב עיבוד נתונים אוטומטי.

נציגים מחברות כמו גוגל ו-OpenAI הצהירו שהמודלים שלהם שופרו, אך גלן כהן מבית הספר למשפטים של הרווארד מציין שעדיין יש שאלות לגבי האמון במערכות כאלה.

המקרה מדגיש את הסיכון לשכפול נתונים רפואיים לא מבוססים על ידי בינה מלאכותית ומעלה את השאלה לגבי שליטה באמת לפני שהיא מוצגת כידע.