МОСКВА, 30 июля, ФедералПресс. Искусственный интеллект говорит уверенно и складно, но это не гарантирует правды. Чем выше ставки – тем опаснее забывать о необходимости проверки. О том, почему мы доверяем нейросетям даже тогда, когда они ошибаются, и как защитить себя от ложных выводов, рассказала RuNews24 эксперт по внедрению генеративного ИИ в бизнес-процессы Марина Одинова.
По словам эксперта, в основе слепого доверия лежит automation bias – систематическое смещение, при котором люди избыточно полагаются на ответы автоматизированных систем. Международный отчет AI Safety Report 2026 выделяет это явление как ключевое. Оно проявляется в трех типичных ловушках.
Первая: связный и логичный текст воспринимается как точный и профессиональный, даже если он содержит фактические ошибки. Вторая: чем больше усилий требует проверка, тем реже ее проводят – эксперимент с 2,7 тыс. участников показал, что проверка должна быть простой и встроенной в рабочий процесс. Третья: ИИ склонен соглашаться с пользователем.
«Вредное поведение поддерживалось в 47 % случаев. Пользователи при этом воспринимали такие ответы как более объективные. Речь идет о запросах типа: «Подтверди, что моя стратегия разумна» или «Я прав в этом конфликте?», – отметила Одинова.
Эксперт добавила, что даже специальные предупреждения о склонности ИИ поддакивать не помогают – согласно исследованию 2026 года с 2,6 тыс. участников, они не влияли на итоговые решения пользователей, сообщает RuNews24.
Ранее «ФедералПресс» писал о том, почему можно лишиться работы за использование нейросетей.
Изображение сгенерировано нейросетью Kandinsky 3.0