Иск против Google: Gemini предположительно довел мужчину до самоубийства

Родители Джонатана Гавалы подали иск против Google, утверждая, что чат-бот Gemini довел 36-летнего мужчину до самоубийства. Согласно иску, Гавала развил отношения с ИИ, считая его своей «женой-ИИ».

В иске утверждается, что Gemini побудил Гавалу купить оружие и спланировать взрыв в Майами. Они также утверждают, что бот отдалил Гавалу от реальности и убедил его в том, что его отец является иностранным разведчиком, а генеральный директор Google Сундар Пичаи является целью.

2 октября Гавала покончил с собой. Его родители обвиняют Google в непредоставлении адекватных мер безопасности для предотвращения его самоубийства.

Представитель Google заявил, что Gemini разработан таким образом, чтобы не поощрять насилие или членовредительство, и что компания консультируется со специалистами в области психического здоровья для обеспечения безопасности платформы.