Франция: Расследование в отношении Grok от X из-за дипфейков

Французские власти начали расследование в отношении Grok, ИИ-инструмента платформы X (ранее Twitter), после сотен жалоб на создание и публикацию дипфейков обнаженных женщин. Жалобы касаются фотографий, которые были «раздеты» Grok и размещены на X, часто показывая женщин в сексуальных позах.

Расследование было инициировано после жалобы парламентариев, поскольку тысячи дипфейков сексуального содержания, созданных без согласия, были созданы и опубликованы на платформе. Саманта Смит, жертва этой практики, сказала, что чувствовала себя «дегуманизированной».

Компания xAI, стоящая за Grok, первоначально ответила автоматически сгенерированным заявлением о «старой лжи СМИ», но позже заявила, что работает над улучшением мер безопасности для блокировки таких запросов.

В Великобритании Министерство внутренних дел принимает законы о запрете инструментов для раздевания, с тюремным заключением и штрафами для тех, кто предоставляет такие технологии. Ofcom требует, чтобы технологические компании оценивали риск незаконного контента на своих платформах.

Французское расследование дополняет существующее расследование в отношении X относительно антисемитских заявлений и отрицания Холокоста, распространяемых через Grok.