В последние годы нейросети и искусственный интеллект стали неотъемлемой частью цифровой среды, предлагая пользователям новые способы взаимодействия с информацией. Недавнее внедрение функционала поисковой системы в ChatGPT открывает новые горизонты для поиска актуальной информации в интернете. Однако эта инновация поднимает множество вопросов о нейтральности и точности предоставляемых данных. О перспективах и вызовах, связанных с эволюцией поиска, «ФедералПресс» рассказал член общественного совета при Минцифры России, первый зампред комиссии по просвещению и воспитанию Общественной палаты РФ Армен Гаспарян.

«Относительно недавно стало известно, что в нейросеть ChatGPT был встроен функционал поисковой системы. Теперь искусственный интеллект может не брать информацию из своей базы данных, а запрашивать и искать актуальные сведения в интернете. На первый взгляд такой шаг может кардинально изменить наше представление о том, как мы ищем информацию в интернете. Однако, как и всегда, без подводных камней тут вряд ли обойдется.

Сейчас многие компании, включая Meta* и Google, активно работают над собственными поисковыми системами на базе ИИ. Многие делают ставку на продвинутые алгоритмы, которые могут лучше понимать сложные запросы и предлагать персонализированные ответы. Однако с внедрением таких технологий появляется множество вопросов о том, как будет формироваться и подаваться информация пользователю и какие последствия это повлечет.

Прежде чем появились большие языковые модели, такие как ChatGPT, поиск базировался на ключевых словах, а алгоритмы просто сопоставляли запрос пользователя с часто встречающимися словами на веб-страницах. Но ИИ позволяет видеть за словами контекст и намерение. Казалось бы, персонализированный поиск позволяет решить многие проблемы. Но лично у меня возникает вопрос: как именно ChatGPT выбирает сайты для поиска и каким отдает предпочтение?

Дело в том, ChatGPT, как и любая ИИ-платформа, обучается на данных, полученных от пользователей. Это означает, что его алгоритмы подстраиваются под их поведение, искажая нейтральность поиска. Сложно спрогнозировать, насколько далеко зайдет такой тренд. Но очевидно, что это может стать средой для укрепления определенных мнений и взглядов на события. Зависеть это будет от того, какие источники алгоритмы выбирают и как они их трактуют. Если алгоритмы будут обучаться на ограниченных источниках, они неизбежно начнут предлагать крайне однобокий взгляд на вещи. С подобным последствием работы алгоритмов уже столкнулся YouTube. И на его примере можно увидеть, насколько далеко заходит поляризация мнений.

Не стоит забывать, что с ростом интереса к ИИ-поиску компании получают больше возможностей для извлечения прибыли – от таргетированной рекламы до сбора данных. Это, в свою очередь, открывает им доступ к еще более персонализированным алгоритмам, которые могут намного сильнее искажать реальность и усиливать предвзятость.

А если вспомнить историю, как нейросеть Gemini (разработчик Google) предлагала пользователям опасные советы, например есть камни для улучшения пищеварения, доверие к западным ИИ-продуктам равняется нулю.

Однако не только на Западе активно развивается ИИ. Например, российские разработчики уже тоже могут порадовать пользователей ИИ-продуктами. При этом наши ИТ-компании более ответственно подходят к обучению своих нейросетей, чтобы последние предлагали людям безопасные ответы. Поэтому российскому пользователю стоит обратить внимание на отечественные ИИ-продукты, если нужно найти какую-либо информацию.

В то же времяне стоит забывать, что есть различные ресурсы, на которых можно проверить корректность информации, то есть провести фактчекинг. Это будет не лишним, чтобы отбросить сомнения по тем или иным ответам ИИ. В этом также помогает развитие критического мышления.

Особенно подобный подход будет полезен, если вы все-таки решите использовать западные нейросети для поиска различной информации. В противном случае они могут стать не инструментом для получения объективных данных, а средством управления нашим восприятием реальности в чужих интересах. Подобная опасность особенно актуальна, когда Запад развязал информационную войну против России. И в качестве оружия он использует различные популярные ИТ-продукты американских компаний, в том числе технологии ИИ».

*ЭКСТРЕМИСТСКАЯ ОРГАНИЗАЦИЯ, ЗАПРЕЩЕННАЯ НА ТЕРРИТОРИИ РФ

Фото: ФедералПресс / Иван Кабанов