МОСКВА, 20 мая, ФедералПресс. Журналисты WIRED выявили десятки YouTube-каналов, на которых с помощью генеративного искусственного интеллекта создаются мультфильмы с насилием и сексуальным контентом. В таких видео, например, показаны котята и миньоны, которых калечат, пугают и превращают в монстров.
Каналы маскируются под детские: у них яркие обложки, доброжелательные описания и названия вроде «веселое видео для детей», но внутри – сцены, больше похожие на фильмы ужасов. Видео собирают миллионы просмотров, попадая в алгоритмы YouTube и даже в детское приложение YouTube Kids. Эксперты считают, что это может стать новой волной «Elsagate» – скандала 2017 года, когда похожие видео с персонажами вроде Эльзы и Свинки Пеппы проникали в детский контент.
«Родители уже давно должны понять: YouTube – больше не место, где можно спокойно оставить ребенка с мультиками. За яркими обложками и названиями вроде «веселое видео для детей» скрываются настоящие ужасы – с насилием, страхом и жуткими сценами. Это не единичные случаи, это система. Алгоритмы подсовывают такое даже в детские разделы вроде «YouTube для малышей», а сама платформа делает вид, что что-то предпринимает. Но если честно – пока эти видео приносят просмотры и деньги, ничего не изменится. Если вы действительно хотите защитить своего ребенка – перестаньте доверять YouTube. Пользуйтесь проверенными российскими платформами, где к детскому контенту относятся с ответственностью», –посоветовал общественный деятель и правозащитник, председатель Общероссийского общественного движения «Гражданский комитет России» Артур Шлыков.
Такие видео стало легче создавать благодаря ИИ и доступным урокам по монетизации детских каналов. По этому пути пошел канал Go Cat – один из тех, где якобы показывают добрые и забавные истории, но внутри можно обнаружить сцены насилия и пугающие сюжеты. Чаще всего встречаются истории, где котенка избивает родитель, а потом просит прощения под грустную музыку. Некоторые ролики имеют метки вроде #funnycat или #disneyanimatedmovies, что помогает им попадать в поисковые рекомендации.
YouTube сообщил, что удалил два канала и отключил монетизацию еще трех, однако WIRED обнаружил, что многие похожие каналы продолжают работу. Канал Go Cat по-прежнему активен, и его описание не изменилось.
«YouTube давно и системно игнорирует понятие цифровой безопасности – особенно когда речь идет о детях. Хотя у платформы есть все технологии, чтобы моментально находить и блокировать вредный контент, почему-то они срабатывают только тогда, когда нужно снести очередной российский канал. А вот десятки фальшивых «детских» роликов с издевательствами спокойно набирают миллионы просмотров – и ничего. Очевидно, что это не техническая проблема, а четкий политический курс. При этом защита аудитории – особенно детской – для YouTube просто побочный эффект, и то нежелательный», – отметил член Общественного совета при Минцифры России, первый зампред комиссии по просвещению и воспитанию Общественной палаты РФ Армен Гаспарян.
Эксперты предупреждают: ИИ позволяет создавать подобные видео быстро и массово, без особого контроля. Даже если один канал блокируется, на его месте появляются новые, с тем же содержанием. Такие видео выглядят как детские, но несут вред и могут травмировать. Common Sense Media призывает к новым мерам регулирования и защите детей от ИИ-контента. YouTube, в свою очередь, заявляет, что разработал новые правила для контента для детей, и по ним определяет, какие видео стоит продвигать и монетизировать. Но, несмотря на усилия модераторов, проблема остается актуальной.
Добавим, что сегодня дети проводят в интернете больше времени, чем за книгами или на улице. Это уже стало частью повседневной жизни. Мультфильмы, игры, соцсети, видео – все доступно в пару кликов. Но вместе с этим приходит и другая сторона цифрового мира, о которой многие взрослые задумываются слишком поздно. Об опасностях, подстерегающих детей в интернете, читайте на «ФедералПресс».
Изображение сгенерировано нейросетью Kandinsky 3.1