МОСКВА, 18 октября, ФедералПресс. Meta* планирует внедрить изображения, сгенерированные искусственным интеллектом, в ленты Facebook** и Instagram**, и некоторые из них могут содержать изображения лиц пользователей. На мероприятии Meta* Connect компания объявила о тестировании новой функции, которая создает контент с помощью ИИ, ориентируясь на интересы пользователей или текущие тренды. Например, могут появляться изображения фантастических миров или смоделированные ситуации с участием лиц пользователей. Эти изображения будут помечены как «Imagined for You», с возможностью делиться ими или создавать новые.
«Пока, если верить Meta*, данная функция выглядит как безобидное развлечение. Но стоит вспомнить, что технология дипфейков тоже изначально была таковой – на заре ее развития интернет заполонили низкокачественные ролики, созданные исключительно в юмористических целях. Однако сейчас, когда невероятно правдоподобный дипфейк можно создать буквально «на коленке», а сама технология активно применяется в информационной войне, уже никто не считает дипфейки чем-то безобидным. И то, что Meta* в целом допускает возможность включать в ленту пользователей сгенерированный ИИ контент, настораживает. А сверху на это накладывается то, что повлиять на подобные действия со стороны ИТ-гиганта иногда не могут даже в США, не говоря про Россию, чьи законы Meta* игнорирует. И о какой безопасности и приватности в этом случае может идти речь?» – прокомментировал эксперт РОЦИТ Алексей Парфун.
Особое беспокойство экспертов вызывает то, что ИИ может использовать фотографии пользователей, чтобы вставить их лица в вымышленные сценарии, такие как космические путешествия или роли персонажей видеоигр. Meta* утверждает, что изображения с лицами будут появляться только при явном согласии на использование функции «Imagine yourself», где пользователям предлагается загрузить свои фотографии и принять соответствующие условия. Тем не менее, несмотря на возможность отключить эту функцию, факт того, что лица могут быть использованы без полного понимания всех последствий, настораживает.
«Meta* – очень странная компания, причем русофобская. Она не только не смогла предотвратить распространение фейков, сгенерированных с помощью ИИ, но и решила начать показывать еще и дипфейки собственного производства. Понятно, что сейчас Meta* говорит о генерации изображений, которые заведомо не могут быть реальностью. Например, пользователь в космосе или в окружении волшебных созданий. Но нужно посмотреть на то, что компания делает фактически – она берет ваше лицо, то есть биометрию, и генерирует изображения на его основе. Да, ИТ-гигант заявляет, что все это будет производиться с согласия пользователя, но история знает множество случаев, когда Meta* обманывала людей и скрытно собирала сведения о них.
Конечно, подразумевается, что если пользователь размещает свои фото и делает доступ к ним публичным, то он неявно дает согласие на их использование. И да, он может стать жертвой дипфейка так или иначе. Но в данном случае речь идет про то, что этим хочет заниматься сама Meta* – компания с огромными ресурсами и собственными интересами, которые далеко не всегда совпадают с интересами пользователей. И то, что она тестирует возможность фактически вставлять фейки прямо в ленту пользователя, не может считаться хорошей тенденцией», – отметил журналист, автор и ведущий программы «Итоги с Малькевичем» (ТВ-3), заведующий кафедрой социальных коммуникаций Азовского государственного педагогического университета (Запорожская область) Александр Малькевич.
Эксперты делают вывод, что новая инициатива усиливает тенденцию к удалению социальных сетей от их первоначальной задачи – поддержания связи с друзьями и близкими. Интеграция контента, сгенерированного ИИ, дополнительно отдаляет эти платформы от их социальных корней, превращая их в площадку для продвижения автоматизированного и коммерческого контента. И хотя пока это лишь тестирование, дальнейшее внедрение подобных функций может значительно изменить восприятие и опыт пользователей.
Напомним, несколько дней назад банк Revolut обратился в компанию Meta* с требованием разделить ответственность за компенсацию жертвам мошенничества. В своем последнем отчете по безопасности Revolut заявляет, что 62 % всех случаев мошенничества в первой половине 2024 года были связаны с платформами Meta*, особенно с Facebook**.
*ПРИЗНАНА ЭКТРЕМИСТСКОЙ ОРГАНИЗАЦИЕЙ И ЗАПРЕЩЕНА В РФ.
**МАТЕРИНСКАЯ КОМПАНИЯ META ПРИЗНАНА ЭКТРЕМИСТСКОЙ ОРГАНИЗАЦИЕЙ И ЗАПРЕЩЕНА В РФ.
Фото: unsplash.com