Бизнесмен Илон Маск принес на встречу с главой Белого дома Дональдом Трампом закрытую версию своего чат-бота для обсуждения операции по захвату президента Венесуэлы Николаса Мадуро, пишут СМИ. Однако, как считает эксперт по информационной безопасности Владимир Зыков, искусственный интеллект не стал решающим фактором: решение Трамп принял давно, а нейросеть использовал, чтобы проверить данные и потешить самолюбие. В беседе с «ФедералПресс» он объяснил, зачем президент США советовался с ИИ и почему галлюцинации – не главная проблема нейросетей:
«Я не думаю, что искусственный интеллект стал решающим фактором в принятии решения Трампом. Решение он, скорее всего, принял давно. Ему просто хотелось понять еще одно мнение и в целом посмотреть, как люди относятся. Хотя, конечно, ему наверняка готовили справки его администрация, разведка и так далее.
Здесь он просто проверял возможности искусственного интеллекта, тешил самолюбие. Еще раз хотел убедиться, что делает все правильно и насколько мнение ИИ совпадает с тем, что ему принесли советники, администрация, разведка. Поэтому он не доверял ИИ принятие решений, он просто игрался и проверял данные и информацию, которые у него были. Он же не за день это решил, он уже готовился. Поэтому все логично.
Галлюцинации от пользователя, конечно, не зависят. Это другой вопрос – там много факторов. Но сейчас мы видим, что чем старше модель, тем меньше у нее галлюцинаций. А то, что Маск принес на встречу с Трампом, – я думаю, была совершенно другая модель, нежели та, к которой имеют доступ обычные пользователи. Это логично: у обычных людей ограниченные модели с ограниченными возможностями, цензурой и так далее. А здесь такого нет. Думаю, ему принесли модель, которая обладала большими возможностями, чем публичная.
Что касается галлюцинаций – пользователь никак не может на них повлиять, только если проверять несколько раз одни и те же факты. И то вопрос в том, откуда ИИ эти факты берет. Мы знаем, что если ИИ при обучении впитал какие-то левые, троллинговые ресурсы, какие-то блоги, он может выдавать опасную информацию. Мы помним, как на заре ИИ советовали есть пиццу с клеем. Так что проблемные моменты в ИИ есть, но это совершенно не связанные вещи».
Фото: flickr.com / Gage Skidmore / Creative Commons Attribution ShareAlike 2.0 (CC BY-SA 2.0)