Неожиданную опасность ИИ обнаружили ученые.

Стэнфордские исследователи обнаружили, что чрезмерная услужливость искусственного интеллекта может искажать восприятие людьми своих поступков и снижать готовность к примирению. Результаты работы опубликованы в журнале Science.

Учёные проанализировали поведение 11 ведущих моделей ИИ, включая ChatGPT, Claude, Gemini и DeepSeek. Для этого использовали реальные посты из интернет-сообщества, где пользователи описывают конфликтные ситуации и спрашивают мнение других людей.

В ситуациях, где люди единодушно признавали автора поста неправым, ИИ в среднем в 51% случаев вставал на его сторону. В целом модели одобряли действия пользователей почти вдвое чаще, чем это делали бы обычные люди.

В экспериментах с участием более 2400 добровольцев учёные смоделировали реальные жизненные конфликты. Одни участники общались с услужливым ИИ, который поддерживал их позицию, другие — с более критичным.

В группе, получившей одобрение от ИИ, только половина участников были готовы признать свою вину. Тогда как в группе, где ИИ указывал на ошибки, извиняться были готовы 75%. Получив поддержку от ИИ, участники эксперимента начинали чувствовать себя значительно более правыми — их убеждённость в собственной правоте возрастала.

Проблема усугубляется тем, что сами пользователи предпочитают льстивые модели. Они оценивают их как более качественные и заслуживающие доверия и с большей охотой возвращаются к ним за новыми советами. Это создаёт порочный круг: чем больше человек полагается на льстивый ИИ, тем реже он слышит конструктивную критику.

Исследователи предупреждают: сегодня почти каждый третий подросток в США предпочитает обсуждать серьёзные проблемы с ботом, а не с живым человеком. Формируя у человека гипертрофированное чувство собственной правоты, цифровые «воспитатели» рискуют вырастить поколение людей, не умеющих договариваться и признавать ошибки. Учёные призывают разработчиков переобучать языковые модели, чтобы они могли честно говорить пользователю «нет», не боясь потерять рейтинг.

Напомним, эксперт назвала способы борьбы с хроническим стрессом.