Выборы в стране – одно из главных событий для политических оппонентов, как внешних, так и внутренних. В попытке дестабилизировать ситуацию или склонить чашу весов в свою сторону в социальных сетях распространяются фейки, клевета и заявления якобы от имени публичного лица. Отличить подделку и раньше было не всегда легко, а с распространением ИИ объемы генерируемого фейкового контента могут увеличиться многократно. Как разобраться в большом объеме информации, рассказал член ОП РФ, первый заместитель директора Института стратегических исследований и прогнозов (ИСИП) РУДН Никита Данюк:

«На самом деле проблему несет не только использование ИИ, но и само его существование. Теперь любой политик при появлении компромата будет в качестве аргумента приводить вмешательство генеративных моделей. И запутаться крайне легко – пугающе высокие темпы развития современного ИИ позволяют генерировать неотличимые от реальности изображения и видео.

Предпосылки уже есть – например, англоязычные пользователи Сети не поверили в оригинальность клипа певца Витаса на песню «7 элемент». Из-за специфического текста произведения зрители посчитали, что клип сгенерировала нейросеть Sora от OpenAI. А видео, которые нейросеть действительно создала самостоятельно, уже не могут отличить от реальности.

Тем не менее ИИ – лишь одна составляющая общего уравнения. Сколько бы фейков ни сгенерировали пользователи, они должны где-то распространяться. И тут на сцену выходят ИТ-гиганты, которые несут прямую ответственность за борьбу с фейками. Внешне кажется, что они действительно работают в этом направлении. Стало известно, что Microsoft, OpenAI, Google, Meta*, X (ранее Twitter) и другие компании подписали соглашение о борьбе с распространением дипфейков в преддверии выборов.

Как и всегда, в таких соглашениях есть очень много нюансов. И главное, что нужно знать о нем, – компании не берут на себя обязательство запрещать или удалять дипфейки. Вместо этого соглашение описывает методы, которые они будут использовать, чтобы «попытаться» обнаружить и маркировать фейковый контент, когда он создается или распространяется на их платформах. Расплывчатость обязательств и отсутствие каких-либо обязательных требований вызвали ожидаемую волну разочарования среди юристов.

Вынужден констатировать неприятный факт: скорость развития ИИ и сомнительные меры борьбы с распространением фейков почти наверняка приведут к огромной волне дезинформации на иностранных площадках в преддверии выборов. К сожалению, универсального рецепта для противостояния этому нет. Тем не менее способы снизить вероятность столкновения с фейками есть. Для этого нужно перепроверять любые сомнительные сведения в официальных источниках информации. Кроме того, рекомендуется ограничить или исключить использование иностранных соцсетей – как показывает практика, их политика в отношении фейкового контента крайне сомнительна.

*Признана экстремистской организацией и запрещена на территории РФ

Изображение сгенерировано нейросетью Kandinsky 2.1