ראש מיקרוסופט AI מזהיר מפני בינה מלאכותית המחקה תודעה

מוסטפא סולימאן, ראש מיקרוסופט AI, מזהיר כי בינה מלאכותית (AI) מתקרבת לנקודה שבה היא יוצרת את האשליה של תודעה. במאמרו, סולימאן מדגיש כי הסכנה האמיתית טמונה בנטייה האנושית לייחס כוונה ואישיות לבינה מלאכותית.

המאמר, ששוכפל על ידי ה-BBC ו-Business Insider, מתמקד בצורך להתמודד עם "בינה מלאכותית בעלת תודעה לכאורה" (SCAI), המחקה את הסימנים החיצוניים של תודעה אנושית. סולימאן מזהיר מפני הסיכון שהחברה תאמין שלמודלים אלה יש נשמות או רגשות, מה שיוביל לדרישות ל'זכויות' של מכונות.

הוא מצביע על "סיכון לפסיכוזה", שבו אנשים מפתחים תלות רגשית במכונות. סולימאן מתאר את המאפיינים של SCAI, כגון שפה משכנעת, חיקוי אישיות, זיכרון והתייחסות עצמית.

לבסוף, הוא קורא לתקנות שיאסרו את הצגת הבינה המלאכותית כ'מודעת' ויזכירו למשתמשים שמדובר בכלי.