Соцсеть «ВКонтакте» разрабатывает сервис для распознавания дипфейков, сообщили в пресс-службе компании VK. Ранее стало известно, что правительство РФ поддержит создание технологических решений для борьбы с фейковым фото– и видеоконтентом. О том, что такое дипфейки, чем они опасны и как будет работать новая технология – в материале «ФедералПресс».
Кто заинтересован в новой технологии
Борьба с фейками – приоритетное направление работы правительства РФ. В декабре 2022 года была утверждена «дорожная карта» «Новое общесистемное программное обеспечение», в которой говорится о том, что правительство России до 2030 года профинансирует разработку пяти программ по распознаванию сгенерированного контента (deepfake).
16 января 2023 года стало известно, что социальная сеть «ВКонтакте» разрабатывает сервис для распознавания фейковых фото и видео, созданных с помощью технологии deepfake.
«ВКонтакте» уже ведет работу над технологией распознавания дипфейков. Появится возможность проверить загруженные на платформу фотографии или ролики на наличие манипуляций, связанных с лицом, например изменения в редакторах или замены одного человека на другого», – говорится в сообщении пресс-службы соцсети.
Пользователи сами смогут проверять фотографии и видеоролики на достоверность. Ожидается, что новая функция будет запущена на платформе социальной сети в течение полугода.
Что такое deepfake
Эта технология получила свое название из двух английских слов – deep (подразумевается deep learning – глубокое обучение) и fake (подделка). Соответственно, эта технология используется для создания поддельных фото и видео с помощью нейросетей.
«Сделать сегодня поддельное видео, фото или даже аудио не составляет никакого труда. Сегодняшние технологии настолько далеко шагнули, что подобные задачи решаются очень просто», – отметил директор «Ассоциации профессиональных пользователей социальных сетей и мессенджеров» (АППСИМ) Владимир Зыков.
Как работает технология дипфейк
Эта технология построена на так называемых генеративно-состязательных нейросетях (GAN). Два параллельно работающих алгоритма взаимодействуют друг с другом – одна половина «учится» на реальных фотографиях и создает новое изображение, а вторая половина сравнивает оригинал и подделку. Как только второй алгоритм выявляет неточность в созданном изображении, он отправляет его первому алгоритму на доработку. Таким образом достигается очень высокий процент схожести материалов.
Чем опасны дипфейки
Несмотря на то, что технология deepfake изначально была разработана в развлекательных целях, она может представлять серьезную угрозу для компаний, пользователей и политиков. Изначально алгоритмы для подмены изображений создавалась для применения в сфере фото- и видеомонтажа. Для креативной индустрии новые инструменты оказались более дешевым аналогом традиционного съемочного процесса.
Сама по себе технология не опасна – это всего лишь инструмент. Гораздо опаснее то, что дипфейки используются не только с благими намерениями, но и становятся мощным орудием в руках злоумышленников, с помощью которого можно заниматься созданием фейков, дезинформацией, шантажом и вымогательством. Учитывая крайне высокую скорость распространения информации в интернете, поддельные фото и видео могут распространяться в Сети буквально за считанные минуты.
«Благодаря таким системам можно выпускать поддельные видео и фото. Пользователи начинают предполагать, что это реальные фотографии и видео людей, и начинают верить в те новости, которые сопровождаются подобным поддельным контентом», – добавил директор АППСИМ.
Как будет работать новый сервис по распознаванию фейков
Эксперт напомнил, что контролирующие механизмы уже внедрены в платформу соцсети «ВКонтакте», и проверка фотографий происходит в режиме «онлайн».
«Сегодня, насколько мне известно, изображения в социальной сети анализируются специальными системами «ВКонтакте», чтобы определять, например, что на фотографии изображено обнаженное тело. Изображение анализируется «на ходу» в процессе загрузки. Это делается для того, чтобы подобный контент «закрывался», – подчеркнул Зыков.
Директор Ассоциации профессиональных пользователей соцсетей и мессенджеров предположил, что новый сервис по распознаванию дипфейков будет работать аналогичным образом.
«Скорее всего, в процессе загрузки эта система будет анализировать «на лету», что изображено на фотографии, и дальше предпринимать какие-то действия. Полагаю, на фотографиях будет появляться [предупреждение]. Вряд ли «ВКонтакте» будет удалять этот материал, ведь всегда существует вероятность ошибки. Поэтому я думаю, что в тех постах, где размещена видоизмененная фотография, будут появляться предупреждающие плашки», – заключил IT-эксперт.
Фото: ФедералПресс / Елена Сычева