Технологии, еще в 2010-х казавшиеся нереальностью, стали привычными для россиян, но вместе с тем усилились и угрозы, исходящие от злоумышленников. О том, как искусственный интеллект облегчил жизнь уральцев, какие вызовы он поставил перед специалистами по кибербезопасности и какие кадры будут востребованы для работы с новыми технологиями, – в материале «ФедералПресс».
Медицина, дороги и ЖКХ
К 2030 году технологии искусственного интеллекта принесут в ВВП России 11 трлн рублей, ежегодная выручка компаний, занимающихся внедрением ИИ, составит 60 миллиардов, а навыки работы с ним получат 80 % российских работников. Именно такие цели поставлены в национальной стратегии, напомнила главный редактор «ФедералПресс» Наталья Оксак участникам круглого стола, проходившего в креативном кластере «Домна» в центре Екатеринбурга. Мероприятие было посвящено использованию искусственного интеллекта во власти и бизнесе.
Уже сейчас ИИ-технологии применяют 30 % российских организаций, среди которых есть не только частные компании, но и госструктуры. Так, замминистра цифрового развития Свердловской области Роман Маточкин рассказал, как новые технологии помогают жителям Среднего Урала. Например, за последние полтора-два года с помощью искусственного интеллекта медики обработали почти миллион флюорограмм и полмиллиона рентгеновских снимков. Такой анализ не только снижает нагрузку на врачей, но и повышает качество исследования: робот может увидеть на одном снимке до тридцати скрытых патологий.
Роман Маточкин
Другой пример – поиск незаконных рубок, при котором спутниковые снимки лесов сравниваются с базой разрешений на вырубку. Раньше этим занимались «цифровые волонтеры», а затем результат их работы «скормили» искусственному интеллекту, объяснил Маточкин. Теперь компьютер может сам искать следы «черных лесорубов». Аналогичные системы внедрены или разрабатываются для отслеживания нарушений в работе карьеров и использовании водных объектов, а также для мониторинга состояния дорог.
Тему подхватил руководитель управления подразделения по цифровым регионам «Ростелекома» на Урале Александр Золотовский. Эта компания по заказу городских и региональных властей внедряет интеллектуальные транспортные системы. Благодаря им компьютер может регулировать светофоры, чтобы избежать пробок. Еще одна система отслеживает грузовики, которые прячут номер, чтобы не платить штрафы. Также у городов востребованы программы управления ЖКХ.
Перспективы использования искусственного интеллекта раскрыла начальник финансово-экономического управления департамента городского хозяйства Тюмени Светлана Крафт. Уже сейчас в столице Западной Сибири применяются элементы искусственного интеллекта – от видеоаналитики в системе «Безопасный город» до цифровых помощников для обработки обращений в коммунальные компании. Но в будущем городская администрация рассчитывает на создание единого «цифрового завхоза», который объединит различные сферы хозяйства и будет реагировать на жалобы в соцсетях.
Хакеры, луддиты и «37-й ход»
В то же время развитие искусственного интеллекта несет не только пользу, но и угрозы: как отметила Наталья Оксак, в прошлом году число киберинцидентов выросло на четверть. Конкретные примеры незаконного использования ИИ привел первый замминистра информационных технологий Челябинской области Василий Кокорюкин. Это не только всем известные дипфейки, но и, к примеру, автоматический поиск уязвимостей в системах безопасности, который позволяет в том числе взламывать камеры, роутеры и элементы «умного дома» для слежки за жертвами. Вооруженные искусственными интеллектом киберпреступники могут даже угрожать национальной безопасности с помощью массовой дезинформации или анализа больших объемов данных в поисках государственных секретов.
С другой стороны, искусственный интеллект может использоваться и для противодействия хакерам, рассказал заместитель гендиректора по научно-технической работе УЦСБ Николай Домуховский. Так, программа, обученная анализировать большие данные, может обрабатывать тысячи сообщений о подозрительных действиях и тем самым оперативно реагировать на попытки взлома.
«Еще одно важное преимущество – возможность искусственного интеллекта решать задачи автономно. Когда мы ставим цель, но не говорим, как именно ее достичь и что для этого сделать, искусственный интеллект самостоятельно находит способы добиться нужного результата. Зачастую он предлагает варианты решения задачи, выходящие за рамки правил, стандартов и логики человеческого мышления. Это может использоваться во зло, но может и стать автоматическим инструментом защиты», – объяснил Николай Домуховский.
Николай Домуховский
При этом он признал, что пока искусственный интеллект не всегда вызывает доверие пользователей, а сбор больших данных создает риск утечки. Тем не менее ИИ-технологии стоит аккуратно внедрять и использовать. Без новых инструментов бизнес будет отставать от злоумышленников, убежден топ-менеджер УЦСБ.
«Есть плюсы и минусы, но луддитами быть не стоит: все равно технология придет. Пока рассматриваются возможные риски и прорабатывается нормативная база, темная сторона, которая не задумывается об этических вопросах, уже давно все это использует. В сфере информационной безопасности стоит учитывать и применять инструменты ИИ, чтобы противостоять киберпреступникам», – заключил он.
Гендиректор группы компаний «Анлим» Максим Овсянников, в свою очередь, призвал разработчиков искусственного интеллекта уже на стадии проектирования задумываться над обеспечением его безопасности.
«Сейчас, к сожалению, нет должной осмотрительности при создании информационных систем. Мы ускоряемся вместе с требованиями времени и стараемся как можно быстрее выдать систему в продакшн. В последние месяцы наблюдается высокоскоростная гонка в области искусственного интеллекта. Китайцы сильно разогнали рынок, а безопасность отходит на второй план», – посетовал он.
Максим Овсянников
Пока ведущую роль в информационной безопасности все же играют люди, заявил руководитель исследовательского центра UDV Group Юрий Чернышов. Но в ближайшее время ситуация может поменяться, так как модели ИИ демонстрируют удивительные возможности своего использования.
«Сейчас большинство задач в ИБ являются не столько «искусством», сколько «ремеслом». Например, мы используем анализ данных и машинное обучение для анализа сетевого трафика, состояния ИТ инфраструктуры, анализа событий и автоматизированного реагирования. Однако технологии очень быстро меняются, и мы это учитываем при планировании исследовательских проектов. Очень многое изменилось с появлением больших моделей ИИ. Важно осознать, что люди уже не могут отличить контент, созданный генеративной моделью ИИ, от того, что создает человек. Модели ИИ научились понимать человеческий язык, изображения, и это стирает границы между машинным и человеческим взаимодействием», – объяснил он.
Юрий Чернышов
Эксперт по кибербезопасности: «Сейчас искусственный интеллект научился удивительным вещам»
Подобные технологии начинают использовать злоумышленники для атак на людей и компьютерные системы, например, дипфейки, персонализированный фишинг, интеллектуальный подбор пароля. Юрий Чернышов уверен, что в ближайшем будущем искусственный интеллект превзойдет возможности людей во многих задачах кибербезопасности. Ярким примером «противостояния» людей и машин является знаменитый матч по игре го, состоявшийся в 2016 году между чемпионом мира среди людей и машинным алгоритмом, в котором ход машина одержала победу, а один из ее ходов был признан самым красивым за всю историю игры («37-й ход»).
«В тот момент, когда в кибербезопасности искусственный интеллект сделает «37-й ход», нам придется искать работу. Но пока естественный интеллект и качественное образование являются основной в решении задач в отрасли информационной безопасности», – предупредил Юрий Чернышов.
Быть умнее нейросети
Тему образования логично продолжил директор Института радиоэлектроники и информационных технологий – РТФ УрФУ Илья Обабков. Он отметил огромный спрос на изучение информационной безопасности и искусственного интеллекта, в том числе его прикладного применения.
«Оказалось, что специалисты по ИБ просят их учить по-другому. Это не набор лекций и практик с профессорами, которые работают уже лет тридцать. Студенты требуют соревнований, чтобы знание было в руках, чтобы они могли почувствовать эту систему, как она взламывается, как защищается», – рассказал он.
В качестве примеров Обабков привел соревнования по информационной безопасности «Киберучения», а также сообщество кибербезопасности «Ural Cyber Security», где студенты разбирают реальные кейсы из практики компаний-партнеров. Кроме того, представители 50 компаний читают собственные курсы в институте.
Илья Обабков
«Это борьба за студентов. Если ты не читаешь курсы на радиофаке, твоей IT-компании в Екатеринбурге нет», – пошутил директор ИРИТ-РТФ УрФУ.
Одновременно студенческие проекты помогают государству и крупным компаниям проверять гипотезы о том, каким образом можно применить искусственный интеллект в той или иной сфере. В дальнейшем это может служить базой для практических решений.
Наталья Оксак
Директор ИРИТ-РТФ УрФУ о подготовке айтишников: «Студенты просят учить их по-новому»
Директор Колледжа цифровых технологий Максим Грохульский назвал главным вызовом для системы образования развитие интеллекта студентов.
«Я своим студентам говорю: если вы хотите использовать искусственный интеллект, вы должны быть умнее нейросети. Иначе вы в лучшем случае останетесь без работы, а в худшем искусственный интеллект будет использовать вас», – заявил Грохульский.
Кроме того, работодатели требуют не только знаний и навыков, но и практического опыта. В результате студенты «набивают шишки» уже с первого курса, отметил он.
«Выход студентов с красными, золотыми, какими угодно дипломами без опыта результативной деятельности скоро будет никому не нужен», – спрогнозировал директор колледжа.
В заключение участники дискуссии обменялись общими соображениями о развитии искусственного интеллекта. По их мнению, нейросеть, опираясь на миллионы параметров, может действовать непредсказуемо для обычного наблюдателя.
«Надо понимать, что про любую нейросеть, которая находится в наших руках, мы ничего не знаем до конца», – подытожил Максим Грохульский.
Фото: ФедералПресс / Иван Кабанов
Круглые столы «ФедералПресс»