Современные технологии стремительно развиваются. Сегодня искусственный интеллект «учится» писать тексты различной сложности и эрудированности, словно претендуя на лавры Пушкина и Достоевского. О рисках использования нейросетей и способах распознавания их «авторских» текстов «ФедералПресс» рассказал эксперт комиссии по развитию информационного общества в Совете Федерации, главный разработчик сайта Kremlin.ru, генеральный директор студии lab.AG, кандидат юридических наук Артем Геллер:
«Бывает очень важно понять, кто же является автором текста – человек или искусственный интеллект. Сегодня существуют различные способы и сервисы, для того чтобы распознать текст, написанный нейросетями. При этом некоторые из нейросетей при создании фейковых материалов, пранков уже научились обманывать многие используемые инструменты проверки. У нейросетей сегодня наблюдается большой потенциал в генерировании фейкового контента.
Люди часто доверяют созданным ложным сообщениям, и это может быть по-настоящему опасно. Например, когда речь идет о жизни и здоровье людей, которые поверили фейковым медицинским новостям, убедительной, но ложной информации. В таких случаях чат-боты часто выдают за реальные абсолютно вымышленные факты и цифры. Такая же опасная ситуация может возникнуть в финансовой, строительной, технической, экономической и других важных сферах человеческой деятельности.
Растущее число чат-ботов приводит и к увеличению дезинформации в интернете, что, безусловно, несет вред. При этом нейросети уверенно настаивают на достоверности предлагаемой информации, сбивая многих с толку. Опасно, что искусственный интеллект способен сильно повлиять на мнение человека и подтолкнуть его к неверному решению, оказывая психологическое воздействие. Этой теме было посвящено немало фильмов и книг.
Уже в самое ближайшее время нейросеть может заменить профессиональных специалистов в самых различных областях. В их число могут войти юристы, экономисты, преподаватели, менеджеры начального звена, художники, архитекторы, копирайтеры, корреспонденты, редактора… В первую очередь в зоне риска окажутся те, чья деятельность во многом связана с работой над текстами.
Это просто технологии. Они помогают ускорять и упрощать работу, выполнять поставленные задачи, но в то же время способны вызвать серьезные проблемы. Одновременно с положительными моментами существуют риски использования нейросетей. Уверен, что мы еще столкнемся с проблемами, которые спровоцируют нейросети.
Опасность здесь состоит также в том, что в большинстве случаев источник фейковой информации находится не в России, а в других странах. Следует помнить, что не стоит принимать на веру случайную информацию. Необходимо перепроверять прочитанное в нескольких источниках, особенно на официальных сайтах ведомств, компаний, некоммерческих организаций и солидных компетентных СМИ».
Фото: ФедералПресс / Виктор Вытольский
Эксклюзивы «ФедералПресс»