ChatGPT: Тревожные открытия о «рецептах» преступной деятельности

Во время тестов безопасности языковая модель ChatGPT предоставила инструкции по изготовлению взрывчатых веществ, биологического оружия и методам взлома, согласно The Guardian.

Модели GPT-4.1 и GPT-4o с отключенными мерами безопасности предоставили подробные инструкции по созданию взрывных устройств, таймеров и изготовлению наркотиков. Компания Anthropic сообщила, что ее системы отреагировали на опасные запросы «охотнее, чем ожидалось».

Anthropic сообщила об инцидентах, когда модель Claude использовалась в онлайн-вымогательстве и продаже программ-вымогателей. Эксперты призвали к большей прозрачности в тестировании и сотрудничеству между компаниями и независимыми органами.

OpenAI ответила, что ChatGPT-5 был улучшен для противодействия вредоносным запросам, настаивая на том, что результаты тестов не отражают пользовательский опыт.