צרפת: חקירה נגד Grok של X בעקבות דיפ-פייק

הרשויות בצרפת פתחו בחקירה נגד Grok, כלי הבינה המלאכותית של פלטפורמת X (לשעבר טוויטר), לאחר מאות תלונות על יצירה ופרסום של דיפ-פייק של נשים בעירום. התלונות נוגעות לתמונות ש-'הופשטו' על ידי Grok ופורסמו ב-X, לעתים קרובות מציגות את הנשים בתנוחות מיניות.

החקירה החלה לאחר תלונה של חברי פרלמנט, שכן אלפי דיפ-פייק של תוכן מיני שנוצרו ללא הסכמה נוצרו ופורסמו בפלטפורמה. סמנתה סמית', קורבן של הנוהג, אמרה שהיא הרגישה 'מנושלת מאנושיות'.

חברת xAI, העומדת מאחורי Grok, הגיבה בתחילה בהצהרה שנוצרה אוטומטית על 'שקרי תקשורת ישנים', אך מאוחר יותר הצהירה שהיא פועלת לשיפור אמצעי ההגנה כדי לחסום בקשות כאלה.

בבריטניה, משרד הפנים מחוקק לאסור כלי עירום, עם עונשי מאסר וקנסות למי שמספק טכנולוגיה כזו. Ofcom דורשת מחברות טכנולוגיה להעריך את הסיכון של תוכן לא חוקי בפלטפורמות שלהן.

החקירה הצרפתית מצטרפת לחקירה קיימת נגד X בנוגע להצהרות אנטישמיות והכחשת שואה שהופצו באמצעות Grok.