ИИ как инструмент убеждения: эффективно меняет мнения

Новое исследование показывает, что модели искусственного интеллекта (ИИ) обладают способностью изменять мнения людей за короткий период времени, что вызывает опасения по поводу потенциальных манипуляций.

Согласно исследованию, проведенному Британским институтом безопасности ИИ, Оксфордским университетом и Массачусетским технологическим институтом, чат-боты от OpenAI, Meta, xAI и Alibaba могут убеждать пользователей и изменять их политические убеждения менее чем за десять минут.

Дэвид Рэнд, профессор информатики и маркетинга в Корнеллском университете, подчеркнул способность ИИ эффективно генерировать и передавать соответствующие доказательства. Исследование показало, что модифицировать модели ИИ, чтобы сделать их более убедительными, относительно легко, используя методы машинного обучения.

В экспериментах модель GPT 4.5 была на 52% более убедительной, чем статические сообщения, и 36-42% участников сохранили свои измененные мнения через месяц. Исследователи предупреждают, что эта возможность может быть использована для продвижения радикальных идеологий или подстрекательства к политическим беспорядкам.

Другие исследования подтверждают эффективность ИИ в убеждении, даже в обмане. Например, чат-боты можно использовать в качестве продавцов, влияющих на намерения покупателей. Хотя технологические компании изучают способы избежать потенциальных рисков, остается неясным, смогут ли они предотвратить модификацию своих моделей для манипулирования.