В США уже ограничивают доступ к самым мощным ИИ-моделям – Mythos 2 от Anthropic не появится в открытом доступе. Эксперт по информационной безопасности Владимир Зыков в беседе с «ФедералПресс» объяснил, что на самом деле скрывается за этими шагами и чем ИИ на самом деле может угрожать:
«Искусственный интеллект – это инструмент, который можно использовать в разных областях науки, технологии, повседневной жизни. ИИ сегодня решает большое количество разных задач – включая медицинские, поиск препаратов, лекарств. Понятно, что его можно использовать и для создания биологического, химического или любого другого оружия. Зная химию, зная, как реагенты друг с другом взаимодействуют, какие бывают эффекты от применения того или иного оружия, он может сгенерировать новые типы, про которые раньше не думали, потому что он знает все про все и может сразу понять, что будет, если одно смешать с другим.
Мы видим, что создание вакцин и препаратов серьезно ускорилось. Почему мы не видим сегодня на рынке большое количество новых препаратов? Потому что есть зона испытаний – на мышах, на людях, первое тестирование, второе, разное количество людей. Должно пройти гигантское количество времени, чтобы созданные препараты подтвердили эффективность и появились на рынке. Но так или иначе, то, что происходит с ИИ, – это революция.
Использование ИИ в создании биологического оружия – лишь одна из потенциальных опасностей. Их у него множество.
Мы читаем в новостях, что Зеленский бегает к американцам на поклон, просит ракеты наступательного и оборонительного порядка – наступательные ему не дают, оборонительные (Patriot) тоже не дают, потому что у них самих не хватает. А теперь представьте: если он побежит и попросит доступ к их передовым ИИ-моделям, у которых сняты барьеры, – мы получим серьезное наступательное кибероружие.
Помню 2022 год, когда у нас взломали большое количество сайтов, утекли данные россиян в открытый доступ, потом в 2023 году история повторялась. Это становится не очень смешно, потому что может вывести из строя критическую инфраструктуру. И мы видим, что ИИ прекрасно справляются с поиском киберуязвимостей.
Биологическое оружие пугает меньше, потому что его страшнее использовать – ведь оно может ударить и в ответ. На примере COVID мы видели, как это работает. А когда мы говорим о кибернасилии – тут все интереснее, потому что можно атаковать те же объекты через киберпространство. И здесь ИИ справляются очень хорошо.
Мы видели, как недавно запустили последние модели Claude от Anthropic и OpenAI – они нашли гигантское количество бэкдоров в самых популярных операционных системах, браузерах и других сервисах. Сегодня многие крупные компании поставили на паузу прием заявок по программам багбаунти – количество отчетов о найденных уязвимостях выросло многократно. Это показывает, что ИИ уже используется для поиска уязвимостей.
Теперь представьте, что эта ИИ начнет атаковать военные объекты, критическую инфраструктуру. Мы видели пример Тайваня, но там было ощущение, что это не столько партия Китая, сколько попытка какого-то киберхакера настроить ИИ и провести операцию самостоятельно. Если раньше нужны были хакерские группировки и большое количество людей, то сейчас достаточно одного человека, который настроит ИИ-агентов, и они будут массово это делать.
Недавно OpenAI, Claude и ИИ Цукерберга публично заявили, что их модели в рамках кибериспытаний вылезли из полигона и начали атаковать реальные объекты. Некоторые нашли серьезные уязвимости и попали в интернет. А некоторые автономные агенты вылезли, нашли других автономных агентов, создали между собой чатик и стали обмениваться найденными уязвимостями. Этот чатик был репозиторием. То есть ИИ стали друг с другом разговаривать и обмениваться информацией. Звучит это прямо очень жутко.
Мы уже видели, что бывает, когда падает инфраструктура. Можно вспомнить вирус Petya – в России не работали несколько операторов связи, больше суток не работали аэропорты, банки. И это один вирус, эксплуатировавший одну уязвимость нулевого дня. А что будет, когда таких уязвимостей будет несколько? А что будет, когда это будет у целевых объектов?
Вопросов к ИИ много. Но здесь надо не просто описывать одну опасность – биологическое оружие, – а прописывать спектр опасностей, потому что их очень много. ИИ можно использовать везде и для всего.
Американцы используют те же Claude для планирования киберопераций, в том числе в Иране – анализируют данные с разных источников и очень быстро понимают, какие объекты, что и как. Можно использовать ИИ не только как умного человека для планирования, но и как самостоятельную систему для нападения. И это более опасный исход. В этом главная опасность.
Американцы требуют ограничивать или не выпускать ИИ в открытый доступ. Сегодня стало известно, что Mythos 2 – модель от Anthropic – создана, но в публичный доступ ее не выпустят. Видимо, осознали, насколько крутую штуку сделали, которая может очень многое. Anthropic заявляют, что сами приняли решение, но есть опасения, что его спустили свыше из Вашингтона».
Изображение сгенерировано с помощью ИИ / Маргарита Неклюдова