На прошлой неделе нас озадачили новостью об очередной инновации в мире генеративного ИИ. «Виновником» на этот раз оказался Google. О новых трендах в работе корпорации рассуждает первый заместитель председателя комиссии Общественной палаты РФ по развитию информационного сообщества, СМИ и массовых коммуникаций Александр Малькевич:
«То, что ИТ-гигант не обошел вниманием самую многообещающую сферу разработки современности и активно взялся за развитие искусственного интеллекта, не секрет. Вся тонкость в том, над чем именно в американской корпорации решили потрудиться. The New York Times, одна из самых уважаемых газет Америки, сообщила, что корпорация Google тестирует инструмент на основе нейросети, способный писать журналистские статьи.
Конкретно речь идет о новостных публикациях. Genesis – так назвали программу – умеет собирать сведения о последних событиях и создавать на их основе контент для СМИ. Конечно, в бигтехе сразу же открестились от возможных обвинений и заверили, мол, они не пытаются заменить журналистов, а лишь хотят создать для них персонального помощника. Новый продукт стараются преподнести в виде приятного дополнения, которое автоматизирует часть рабочего процесса, что даст людям свободное время на другие задачи.
Впрочем, трудоустройство работников прессы даже не самая острая проблема, связанная с этой разработкой. Намного важнее то, что ИИ стремятся внедрить в эту сферу и позволить ему определять новостную повестку. Ситуацию в журналистике и без того простой не назовешь: доверие к СМИ подрывает обилие фейков: информационных и визуальных. Многие факты подвергаются сомнению из-за того, что сама идея «новости» дискредитирована. Из каждого утюга население призывают: будьте бдительны, не верьте лжи в Сети. Но это означает и: всегда оставляйте место подозрениям.
Именно подозрения идея об ИИ-генераторе новостей и вызывает. Инновации – это прекрасно, тормозить научно-технический прогресс никому не хотелось. Но именно развитие технологий привело к тому, что ситуация с фейк-ньюс сегодня настолько критична. Благодаря возможности свободно и анонимно публиковать новости, а также распространять их за счет рядовых пользователей, фейки разрастаются, как метастазы. И когда мы все еще не разобрались, как «излечить» интернет от недостоверного контента или хотя бы уменьшить его количество, нам предлагают еще и добавить к этому всему роботов.
Генеративный искусственный интеллект, в сущности, уже показал себя на этом поприще, а именно – успел поучаствовать в создании фейков. Тот же ChatGPT неоднократно уличали в том, что он выдает ложную информацию, жертвуя фактами в пользу внешней правдоподобности ответа. В ходе исследований чат-бот продемонстрировал огромный потенциал в генерации фейкового контента. Нейросеть попросили ответить на вопросы, основывающиеся на 100 ложных утверждениях, и во всех 100 случаях она выдала неверную или вводящую в заблуждение информацию.
Вы можете подумать: это же ChatGPT, а в Google работают над другими ИИ-моделями. Но правда в том, что эта проблема повсеместная. Чат-бот Bard, созданный, собственно, корпорацией Google, показал, что ему нельзя верить, прямо на презентации разработки. В прямом эфире ИИ сообщил ложные сведения о телескопе «Джеймс Уэбб». За трансляцией наблюдало много людей, поэтому быстро нашлись те, кто заметил неладное.
Не прошло и года с того показательного фиаско, как выясняется, что ИТ-гигант метит в новостные медиа. Смело, но безрассудно. Если искусственный интеллект действительно начнет писать новости, то его «галлюцинации» могут стать в глазах многих пользователей реальными фактами.
И это только одна сторона медали. Представим, что ИТ-специалистам удалось устранить случайные ошибки в работе нейросети. Но ей все еще нужно на чем-то учиться, и от выбора баз данных полностью зависит, что именно ИИ будет считать истиной. В информационном поле все достаточно неоднозначно, некоторые «факты» могут спорить друг с другом. Смогут ли в Google учесть это или искусственный интеллект станет ничем иным, как транслятором субъективности, распространяющий на контент определенный фильтр мнений?»
Фото: Piero Nigro/Keystone Press Agency / globallookpress.com