МОСКВА, 5 мая, ФедералПресс. OpenAI представила экспериментальную функцию Chronicle для приложения Codex на macOS, которая уже спровоцировала активные обсуждения среди экспертов по кибербезопасности. Новый инструмент, по заявлениям разработчиков, позволяет делать снимки экрана, распознавать текст и передавать его системе для более точного понимания действий пользователя и улучшения работы алгоритмов.
Компания указывает, что функция включается только с согласия пользователя, а сами изображения сохраняются локально и удаляются примерно через шесть часов. Однако, как передает SecurityLab, извлеченный из скриншотов текст может храниться значительно дольше – он записывается в формате Markdown и остается доступным в последующих сессиях до ручного удаления. При этом использование Chronicle ускоряет расход лимитов Codex и может повысить риск внедрения вредоносного контента через анализируемые данные.
Несмотря на заверения OpenAI о том, что изображения не используются для обучения моделей и не сохраняются на серверах (за исключением случаев, предусмотренных законом), остается неясным, как именно обрабатывается распознанный текст. Дополнительные вопросы вызывает возможность повторной отправки ранее захваченного контента, что теоретически увеличивает риск утечек.
Эксперты уже проводят параллели с функцией Microsoft Recall, которая ранее подвергалась критике из-за потенциального сбора конфиденциальной информации, включая пароли и банковские данные. По мнению специалистов, даже при наличии ограничений подобные технологии неизбежно расширяют поле для возможных угроз безопасности.
Ситуацию прокомментировал эксперт РОЦИТ, генеральный директор АНО «ПравоРоботов» Никита Куликов:
«Честно говоря, мне слабо верится, что Chronicle реально активируется только по желанию пользователя и что OpenAI не будет использовать данные для обучения моделей. Если учесть, что у компании есть сотрудничество с Пентагоном, легко представить, что при необходимости все данные будут и сохраняться, и анализироваться без лишних запросов пользователю. В реальности никто не станет каждый раз спрашивать согласие, когда речь идет о таком объеме информации. Или поступят еще проще – тихо поменяют пару строк в пользовательском соглашении, которое никто никогда не читает».
С ним согласен и журналист, член СПЧ Александр Малькевич:
«Любые заявления о том, что текст и снимки экрана не попадут в систему или не будут использоваться для обучения ИИ, ничтожны на фоне простого факта – мы находимся в эпоху гонки за превосходство в сфере искусственного интеллекта. А с учетом оборонных».
Ранее «ФедералПресс» писал о сотрудничестве Google с Пентагоном.
Изображение сгенерировано с помощью ИИ / Светлана Возмилова