Самоуправству ИТ-гиганта, которое приводит к подрыву демократических ценностей, можно положить конец. Эту мысль в своей колонке для The Guardian озвучила Фрэнсис Хауген, бывшая сотрудница Meta. Осенью 2021 года она обнародовала внутренние документы цифровой корпорации, раскрывающие ее темные тайны. Хауген публично обвинила компанию в манипулировании общественным мнением, а также в разжигании ненависти и насилия, распространении фейков.
Технологическую компанию уже неоднократно обвиняли в том, что ее алгоритмы используются для распространения деструктивного и провокационного контента. Материалы, которые опубликовала Фрэнсис Хауген, это подтвердили, так же как и то, что в зонах конфликтов Facebook может стать причиной беспорядков или даже смертей. Но, по мнению бывшей сотрудницы, исправить проблему механизмов и менеджмента соцсети, которые наносят вред детям, ослабляют демократию и дестабилизируют общество, реально. Она предложила для этого план, основными положениями которого являются увеличение мощностей человеческой модерации (на которой ИТ-гигант обычно экономит), уделение внимания политике соцсети в зонах конфликтов, прозрачность работы алгоритмов, отсутствие цензуры.
В частности, Хауген считает, что корпорации стоит внимательно изучать страны и рынки, на которых она работает. В погоне за прибылью Facebook стремится охватить своей сетью все страны мира, зачастую не задумываясь о последствиях для их жителей. Цифровая корпорация не масштабирует свои системы безопасности по ходу расширения своих «владений».
Известной трагедией, к которой привел халатный подход руководства соцсети к исследованию ситуации в стране и менталитету народа, стал геноцид в Мьянме в 2017 году. Соцсеть не смогла остановить лавину ненавистнических высказываний, спровоцировавших насилие и беспорядки, которые в итоге вылились в безжалостную травлю мусульман-рохинджа. В ООН пришли к выводу, что ключевую роль в распространении негативных постов, которые подстрекали к физическому уничтожению рохинджа, сыграл именно Facebook. Схожая трагедия случилась позже в Эфиопии.
Однако если раньше корпорация списывала произошедшее на недостатки модерации, то недавно она сама официально разрешила разжигание розни и ненависти в отношении россиян, а также президентов РФ и Белоруссии, на площадках Instagram* и Facebook в целом ряде стран. Модераторам поставили задачу временно пропускать публикации с призывами к насилию против россиян в контексте спецоперации на Украине. Это относилось к таким странам, как Россия, Украина, Латвия, Литва, Эстония, Польша, Венгрия, Румыния, Словакия, государствам Закавказья. Позже компания спешно уточнила, что речь идет только о российских военных, и смерти им можно будет желать только в Украине. В понедельник, 14 марта, вице-президент корпорации Ник Клегг сделал еще одно уточнение: Meta не будет позволять появления в Facebook и Instagram* призывов к убийству главы государства. Однако даже попытки корпорации смягчить последствия своего решения не выглядят убедительными. Новую политику компании осудили и в ООН.
Немаловажно, по словам Хауген, решить вопрос и с тем, что заявления соцсети о свободе слова оказываются пустышками из-за той цензуры, которой она подвергает различных пользователей. Хотя ИТ-гигант утверждает, что вкладывается в модерацию, все чаще возникают вопросы, на что идут ресурсы. Ситуация в России в очередной раз подтверждает эти опасения: в то время как на платформе массово распространяются фейки и провокации, она не борется с ними, а блокирует российские государственные СМИ.
Другая проблема, которую поднимает Хауген, – это непрозрачность работы соцсети. Почти никто за пределами Facebook не знает, как именно функционируют ее алгоритмы и насколько они эффективны в борьбе с деструктивом на платформе. В 2020 году Марк Цукерберг заявил, что алгоритм выявляет и удаляет 94 % ненавистнических высказываний до того, как на них пожалуется кто-то из пользователей. На самом деле внутренние исследования компании 2021 года показывают, что платформа приняла меры против всего лишь 3–5 % подобных материалов и 0,6 % контента, который был классифицирован как насилие и подстрекательство.
По мнению Хауген, поток деструктива, который активно и почти бесконтрольно распространяется на платформе, можно остановить. Самый простой и необходимый шаг – сделать алгоритмы социальной сети открытыми и прозрачными. Это позволит сторонним исследователям дать реальную оценку их влиянию на распространение дезинформации и деструктива. Сейчас корпорация этому активно препятствует: так, например, она заблокировала профили ученых из проекта Ad Observatory, которые пытались изучить прозрачность рекламных механизмов и распространение дезинформации в Facebook.
«Я никогда не хотела быть разоблачителем, но я поняла, что без придания этих коварных практик Facebook огласке мы никогда не получим соцсетей, которых заслуживаем, – площадок, способствующих нашему благополучию и защищающих нашу демократию», – подытожила Фрэнсис Хауген.
Фото: ФедералПресс / Полина Зиновьева
*внесен в реестр запрещенных сайтов Роскомнадзора