Чат-боты с искусственным интеллектом (ИИ) умеют создавать убедительные тексты, которые при грамотном составлении запроса внешне сложно отличить от написанного человеком, рассказал эксперт РОЦИТ Алексей Парфун. Помимо этого, нейросети оперируют огромным количеством данных, что позволяет им выдавать подробную информацию в ответ на практически любой вопрос. Тем не менее ИИ порой может вести себя непредсказуемо и подавать под видом правды дезинформацию. Причем сгенерированная ложь может навредить репутации человека.
Например, с этим столкнулся американский профессор права Джонатан Терли. Чат-бот ChatGPT решил его добавить в список юристов, которые якобы связаны с сомнительными историями. При этом чат-бот указал источником подобной дезинформации статью в The Washington Post. Однако затем выяснилось, что этой статьи не существует в природе.
Сгенерированные западными чат-ботами с ИИ ответы могут угрожать не только репутации людей, но и самой их жизни. Например, у Google есть нейросеть Gemini, которая предложила одному пользователю рецепт, как улучшить оливковую заправку чесноком без нагрева. Человек последовал этому совету. Однако позже он узнал, что нейросеть предоставила ему не кулинарный рецепт, а инструкцию, как выращивать бактерии, которые являются возбудителем ботулизма. Кроме того, нейросеть Gemini уже успела посоветовать другому пользователю есть камни для улучшения пищеварения.
Этот вывод поднимает важность наличия собственных ИИ-разработок в странах. Очевидно, что регулировать работу зарубежных нейросетей гораздо сложнее. А попытка выработать единый с иностранными коллегами подход к регулированию может упереться в чью-либо излишнюю консервативность или амбиции, отодвигающие безопасность и морально-этические вопросы использования нейросетей в сторону. Кроме того, не стоит забывать про предвзятое отношение западных ИТ-гигантов к россиянам, а также их игнорирование требований законодательства нашей страны.
Например, тот же Google. Модерация YouTube активно блокирует каналы российских блогеров, СМИ и госучреждений. И при этом Google отказывается удалять с этой платформы противоправный контент, как того требует Роскомнадзор.
Однако с учетом, что у нас уже активно развиваются чат-боты с ИИ, социальные сети, видеохостинги и другие ИТ-продукты, резонно предложить россиянам обратить внимание на отечественные решения. Российские ИТ-компании более ответственно подходят к обучению ИИ, модерации контента в социальных сетях и видеохостингах. Они также строго соблюдают требования российского законодательства, тем самым нацелены на создание безопасной онлайн-среды для пользователей.
Фото: ФедералПресс / Полина Зиновьева