МОСКВА, 17 августа, ФедералПресс. Стремительное внедрение искусственного интеллекта в рабочие процессы обернулось новой угрозой: сотрудники массово раскрывают чувствительные данные, воспринимая нейросети как безобидных личных помощников. Об этом РИАМО предупредил эксперт по информационной безопасности Борис Степанов.
«В корпоративном секторе проблему пытаются решить с помощью систем предотвращения утечек (DLP), которые блокируют передачу чувствительных данных. Однако технически важно понимать: эта защита действует только внутри корпоративного периметра», – сказал он.
Главной причиной беспечности Степанов назвал «цифровую лень» – желание получить готовый результат здесь и сейчас, не тратя время на редактирование исходников. Слепое доверие к ИИ-агенту, который выглядит как безопасный диалог, лишь усугубляет ситуацию.
Аналитик дал рекомендации по безопасному использованию ИИ: выяснить, есть ли в компании корпоративная версия ИИ-помощника внутри защищенного контура; не загружать документы с пометками «конфиденциально» или содержащие персональные данные; анонимизировать файлы, заменяя названия и цифры на безличные метки; отключать в настройках сохранение чатов и использование данных для обучения модели; всегда проверять ответы нейросетей, так как им свойственно ошибаться, сообщает РИАМО.
Ранее «ФедералПресс» писал о том, почему ИИ-модели стали действовать самостоятельно и чем это грозит.
Изображение сгенерировано нейросетью Kandinsky 3.1