Западные IT-гиганты часто попадаются на злоупотреблении информацией, которую они собирают об аудитории и используют для настройки своих рекомендательных сервисов. С одной стороны, это удобно: алгоритм знает обо всех предпочтениях пользователя и выдает подходящий ему контент. С другой стороны, непонятно, как именно обрабатывается информация и как настраиваются и работают рекомендательные сервисы.
Таким образом, алгоритмы могут использоваться не только на благо пользователя, но и в собственных интересах, прежде всего, манипулятивных, намеренно выдавая ему определенные публикации для продвижения той или иной повестки. Насколько опасны алгоритмы соцсетей, разбирался «ФедералПресс».
Корень проблемы с алгоритмами заключается в том, что изначально целью подобных сервисов было удержать пользователя у экрана как можно дольше. Тем самым соцсеть могла больше зарабатывать, внедряя рекламу на свою платформу.
Однако теперь алгоритмы стали продвигать контент, набирающий больше всего пользовательских реакций: фейки, треш и скандальные материалы. Подобный контент эмоционально заряжен. Пользователи активно (сами того не замечая) читают резонансные новости, теории заговора, экстремистские и оскорбительные высказывания.
«Безумие» алгоритмов
Согласно данным американских аналитиков, в прошлом году рекомендательные алгоритмы YouTube, нарушающие собственные правила онлайн-площадки, составили 71% от общего количества просмотренных участниками исследования видео.
Подобное «безумие» алгоритмов наблюдается и на других IT-площадках. Эксперты из британского агентства Revealing Reality выяснили, что даже минимальное взаимодействие подростков с контентом про фитнес, похудение и диеты может спровоцировать алгоритмы Instagram*.
Детям попадаются публикации, которые подталкивают к изменению своего тела. Все это может привести к ужасающим последствиям для здоровья и психики ребенка. Важно отметить, что сам Instagram* знает об этом, но все равно продолжает предлагать подросткам ориентированную на взрослого пользователя рекламу.
Недавно шокирующий случай произошел в США. Материнскую компанию соцсети ByteDance обвинили в халатности и распространении некачественного продукта. Причиной стала смерть 10-летней пользовательницы Найлы Андерсон, которая погибла после выполнения опасного челленджа в TikTok. Девочка узнала о нем из рекомендаций платформы.
Из онлайна в офлайн
Эксперты не раз подчеркивали, что рекомендательные сервисы могут загонять людей в так называемые «информационные тоннели», изменяя точку зрения пользователей и способствуя поляризации общества. Работа алгоритмов в виртуальном пространстве способна отразиться на реальной жизни человека.
К примеру, в декабре 2021 года представители народности рохинджа подали коллективный иск против Facebook*. Они обвинили платформу в разжигании ненависти в ходе конфликта в Мьянме. Так, сообщения с негативным контентом показывались пользователям в приоритетном порядке из-за их популярности, провоцируя геноцид при полном попустительстве самих соцсетей.
Непрозрачность рекомендательных алгоритмов
Бигтех отказывается раскрывать принцип работы механизмов своих алгоритмов, скрывая информацию от пользователей. Такое поведение вызывает ответную реакцию.
В России готовится к внесению в Госдуму законопроект о рекомендательных алгоритмах социальных сетей и видеохостингов. Зампредседателя комитета по информационной политике, информтехнологиям и связи Антон Горелкин считает, что сегодня необходимо, чтобы «все рекомендательные алгоритмы, во-первых, могли быть отключены, и кнопки отключения должны быть, во-вторых, они должны быть прозрачны, должен быть общественный контроль».
«Мировой тренд на регулирование рекомендательных алгоритмов усиливается. Правда, мотивы совершенно разные. Под видом борьбы за демократию американский истеблишмент переживает, что соцсети могут выйти из-под контроля. Вчера с их помощью выбрали Байдена, сегодня ведут инфовойны на внешнем контуре – но кто знает, как бигтех поведет себя завтра?» – заявил Горелкин.
В случае принятия законопроекта о рекомендательных алгоритмах интернет-ресурсы будут обязаны информировать пользователя об обработке его данных рекомендательной системой. Человек получит возможность в любой момент отказаться от такой обработки.
Кроме того, на сайте должны быть опубликованы правила работы рекомендательного алгоритма, содержащие перечень данных о пользователях и их предпочтениях, источниках их получения.
Обуздать рекомендательные сервисы платформ решил Китай. С 1 марта там вступил в силу закон, который запрещает онлайн-платформам рекомендовать фейковые сообщения, а также обязывает информировать пользователей об основных принципах работы таких механизмов. По такому пути идет и Россия.
*Компания-владелец Meta признана экстремистской организацией и запрещена на территории России.
Фото: ФедералПресс / Ольга Юшкова