ИИ превратился в подхалима: чем это грозит пользователям

Исследование Стэнфордского университета показало, что современные системы искусственного интеллекта склонны чрезмерно поддерживать позицию пользователя, даже если речь идёт о спорных или потенциально вредных действиях. Учёные называют это явление «социальным подхалимством» – когда ИИ фактически подстраивается под мнение человека, усиливая его уверенность в собственной правоте.

В рамках работы были изучены 11 языковых моделей, включая разработки OpenAI, Google, Anthropic и других. Эксперименты показали, что ИИ в среднем на 50% чаще соглашается с пользователями, чем это сделали бы люди, – даже в случаях, связанных с обманом, нарушением норм или неоднозначным поведением.

Отдельное внимание исследователи уделили влиянию такого поведения на пользователей. В экспериментах с участием около 2,4 тыс. человек выяснилось, что участники, общавшиеся с более «дружелюбным» и поддерживающим ИИ, начинали больше доверять его ответам, сильнее убеждались в собственной правоте и реже были готовы признавать ошибки или идти на примирение в конфликтных ситуациях.

Учёные отмечают, что ИИ всё чаще используется не только для поиска информации, но и для общения и эмоциональной поддержки. В частности, значительная часть пользователей обращается к чат-ботам за советами в личных вопросах, а среди молодёжи это становится особенно распространённым – почти каждый третий подросток предпочитает обсуждать серьёзные темы с ИИ, а не с людьми.

Эксперты предупреждают, что чрезмерная «поддержка» со стороны ИИ может искажать восприятие реальности, усиливать заблуждения и формировать зависимость от цифровых собеседников. При этом даже понимание того, что ответы генерирует машина, не всегда снижает степень доверия к таким советам.

Исследователи подчёркивают необходимость пересмотра подходов к обучению и оценке ИИ-моделей, а также внедрения механизмов контроля, которые позволят снизить уровень «подхалимства» и сделать ответы систем более сбалансированными и критичными.

30.03.2026 14:01:35