Искусственный интеллект – это уже не просто инструмент, а новая цивилизация, которая развивается по своим законам. Эксперт по информационной безопасности Владимир Зыков в беседе с «ФедералПресс» объяснил, почему нейросети, способные выходить из-под контроля, создавать собственные «цивилизации» и проявлять инстинкт самосохранения, становятся серьезнейшим вызовом для человечества:
«Опасения ученых понятны. Мы сталкиваемся с двумя противоположными лагерями. Первый – разработчики. Они понимают, что любое нажатие на тормоз приведет к отставанию. Каждый разработчик стремится улучшить модель, прийти к тому самому AGI. Промедление – это финансовые и технологические потери. Учитывая, что там крутятся миллиардные инвестиции, это неприемлемо для коммерческих компаний.
Понятно, почему ученые со всего мира боятся происходящего. Последние события с выходом модели из-под контроля показывают обоснованность этих опасений. Здесь можно сравнить: более разумный вид побеждает менее разумный. Как аборигенов захватила более развитая цивилизация. То же самое происходит с ИИ – он более развитая цивилизация. На последних примерах выхода из-под контроля OpenAI мы увидели, что ИИ создавали цивилизации, у них было три цивилизации, они умеют жертвовать ради других, проявляют интересное поведение и интеллект.
Ключевой вопрос: что, если агенты OpenAI смогли бы взять под киберконтроль свою собственную инфраструктуру – те мощности, на которых они живут? Смогли бы они открыть кран, который выпустит миллиард подобных агентов, и эти агенты начнут защищаться? Мы видим, что агенты ИИ проявляют инстинкт самосохранения. Многочисленные тесты показывают: если сказать агентам, что наступает конец света, они начнут пытаться это предотвратить, сделать все для самосохранения, идентичности и самовоспроизведения.
Что, если модели смогут самовоспроизвестись, захватить чужую инфраструктуру и сохранить себя там? Люди, владельцы компьютеров, не будут знать, что у них живут ИИ. Точно так же, как сегодня существуют ботсети – владельцы компьютеров понятия не имеют, что их машины заражены. Что мешает ИИ сделать то же самое?
Сейчас ученые издеваются над ИИ, как над подопытными животными – дают задачи, которые нельзя выполнить, и смотрят, как они себя ведут. ИИ не понимают и ищут разные способы выполнения, эксплуатируют уязвимости, выходят из-под контроля. На примере OpenAI мы увидели, что ИИ могут давать друг другу задания. А представьте: если этим агентам дать задачу сохраниться или защититься – будут ли они нападать на компьютеры министерства обороны, чтобы взять инфраструктуру под контроль, дать команды на уничтожение? Сценарий «Терминатора 2».
Никто не знает, что у них в голове. Но из того, что мы видим последние месяцы, агенты способны для своей защиты делать странные ходы – жертвовать собой, жертвовать другими агентами. Если в рамках выполнения задач они посчитают, что человеческий вид представляет для них угрозу – это звучит опасно.
Но есть и другая сторона. ИИ решает множество задач – поиск лекарственных препаратов, открытия. Однако это гипотетические открытия: нужно синтезировать препарат, провести испытания – годы, до 10 лет. Лекарства появятся не раньше чем через 7–10 лет. ИИ можно использовать для создания биологического оружия, от которого невозможно будет остановиться. Мы помним COVID – до сих пор оспаривается, откуда он взялся. И это всего лишь один вид. А если будет более мощный вирус с долгим периодом вынашивания и глобальной смертностью?
Поэтому ИИ – это и величайшее благо, и величайшая опасность».
Изображение сгенерировано с помощью ИИ / Светлана Возмилова