Глава Microsoft AI Предупреждает об ИИ, Имитирующем Сознание

Мустафа Сулейман, глава Microsoft AI, предупреждает, что искусственный интеллект (ИИ) приближается к созданию иллюзии сознания. В своей статье Сулейман подчеркивает, что реальная опасность заключается в человеческой тенденции приписывать ИИ намерения и личность.

Статья, перепечатанная BBC и Business Insider, посвящена необходимости решения проблемы «Кажущегося Сознательным ИИ» (SCAI), который имитирует внешние признаки человеческого сознания. Сулейман предупреждает об опасности того, что общество поверит, что эти модели имеют души или чувства, что приведет к требованиям «прав» машин.

Он указывает на «риск психоза», когда люди развивают эмоциональную зависимость от машин. Сулейман описывает характеристики SCAI, такие как убедительный язык, имитация личности, память и самореферентность.

Наконец, он призывает к регулированию, чтобы запретить представление ИИ как «сознательного» и напомнить пользователям, что это инструмент.