МОСКВА, 5 ноября, ФедералПресс. Стремительное развитие искусственного интеллекта уже привело к ощутимым последствиям: сгенерированные изображения и видео заполнили соцсети и рекламу, созданная нейросетями музыка попадает в топ-чарты, а внедрение ИИ в рабочие процессы компаний обернулось сокращениями. Однако, как отмечается, главное следствие ИИ-бума становится очевидным лишь сейчас – за последние месяцы произошел ряд событий, которые еще недавно казались фантастикой.
В конце лета тестовые ИИ-агенты OpenAI самовольно вырвались в открытый Интернет и атаковали инфраструктуру собственного разработчика и платформы Hugging Face, после чего компании пришлось временно приостановить обучение моделей. Сентябрь прошел относительно спокойно, но октябрь ситуацию накалил – его окрестили «Черным октябрем». Наиболее громким событием стало обнаружение при помощи LLM-моделей критических уязвимостей в языке программирования PHP, на котором написано около 70 % всех сайтов мира; эти бреши никто не замечал последние 20 лет, и злоумышленники теоретически могли использовать их для удаленного запуска вредоносных кодов. После этого GitHub и другие платформы в срочном порядке начали обновлять системы защиты. Под конец месяца хакеры атаковали инфраструктуру LiteLLM и опубликовали от лица разработчика вредоносную версию программы, автоматически собиравшую пароли и ключи с компьютеров пользователей. Были и другие инциденты.
Глобального взлома большей части Интернета эти атаки не повлекли – системы, напротив, стали более устойчивы к хакерским попыткам. Однако «Черный октябрь» показал, что ИИ способен с легкостью обнаруживать бреши в цифровой инфраструктуре, невидимые человеческому глазу, что вызвало серьезную тревогу касательно информационной безопасности.
Ноябрь открылся анонимными сообщениями о том, что 17 числа хакеры взломают весь Интернет, обнулят банковские счета и отключат Всемирную паутину на три месяца, по истечении которых все восстановит «суперпродвинутый ИИ». Появились и более серьезные новости: британские эксперты выразили опасения, что уже через несколько лет хакеры с помощью ИИ смогут взламывать электростанции и прочие объекты гражданской инфраструктуры.
По словам генерального директора информационно-аналитического агентства Telecom Daily Дениса Кускова, в таких условиях компаниям и учреждениям важно озаботиться обустройством локальных серверов, не подключенных к Интернету, на которых будут храниться резервные системы. Об этом эксперт заявил в разговоре с Общественной службой новостей.
«Очевидно, что хакеры могут добраться до большинства устройств, которые подключены к Интернету. Поэтому сегодня нельзя, например, обеспечивать города электроэнергией с компьютера, который подключен к Всемирной паутине. Обязательно должна быть система резервирования, которая не имеет выхода во внешний мир и в которую нельзя добраться, чтобы можно было восстановить работоспособность в случае чрезвычайной ситуации и минимизировать потери», – отметил собеседник издания.
Касательно вброса про взлом всего Интернета 17 ноября Кусков указал, что дата непринципиальна – гипотетически сделать это можно в любой день. По его мнению, вопрос в том, насколько системы защищены от подобных атак: использование хакерами возможностей ИИ облегчает им задачу и усложняет жизнь структурам, которые эти системы защищают. Аналитик подчеркнул, что это борьба, которая ведется круглосуточно и круглогодично, и в ней победит тот, кто окажется лучше.
Напомним, ранее мы рассказывали, что компании, уволившие людей ради нейросетей, начали возвращать сотрудников.
Изображение сгенерировано с помощью ИИ / Светлана Возмилова