МОСКВА, 12 августа, ФедералПресс. Люди привыкли воспринимать манипуляцию в качестве намеренного действия, однако при использовании нейросетей пользователи нередко приписывают им объективные свойства человека: знание, понимание и даже собственную позицию. Об этом заявил главный программист центра искусственного интеллекта АО «ВНИИЖТ», Master of science Norges arktiske universitet (Norway, Tromso) Константин Дьячков.
«Любая крупная модель создается не в вакууме. Есть массив данных, на котором она обучалась. Есть языки, представленные в этих данных лучше или хуже. Есть разработчики. Есть люди, оценивающие ответы. Есть правила безопасности. Есть законодательная среда. Есть культурные представления о допустимом и недопустимом», – пояснил Дьячков.
Он обратил внимание, что создали нейросети необязательно «могут лгать в чьих-то интересах». Можно сделать, чтобы одна «картина мира» была представлена в ответе более полно, чем другая. « Не «думай вот так», а «вот наиболее естественное объяснение происходящего». И именно второе зачастую действует сильнее первого», – рассказал программист.
Константин Дьячков заметил, что нейросети нельзя использовать в качестве ответа в последней инстанции. Важно менять формулировки вопросов, смотреть на полученные вывода, а по одной теме следует консультироваться с разными системами. Программист замечает, что особо важно фильтровать ответы, которые идеально совпадают с убеждениями.
Фото: ФедералПресс / Евгений Поторочин