ВАШИНГТОН, 12 сентября, ФедералПресс. Пентагон должен иметь возможность быстро отключить нейросети, которые используют в американской оборонной инфраструктуре. С таким требованием выступила член Палаты представителей США Анна Паулина Луна в эфире телеканала FOX News.
«Я хочу, чтобы Пентагон обеспечил наличие встроенных мер безопасности во всех системах [искусственного интеллекта], которые интегрированы в нашу нынешнюю систему обороны, чтобы при необходимости их можно было немедленно отключить», – сказала она.
Заявление конгрессмена прозвучало на фоне дискуссии о возможных рисках стремительного развития искусственного интеллекта. Ранее глава Anthropic Дарио Амодеи призвал замедлить развитие нейросетей, связав это с безопасностью интернета и человечества.
В эссе на своем сайте Амодеи отметил, что люди, отвечающие за контроль ИИ-моделей, могут не успевать за темпами их самообучения. По его оценке, без превентивных мер уже через шесть месяцев или год сеть нейросетевых агентов способна получить полный контроль над интернетом. Глава Anthropic также допустил ущерб в сотни миллиардов долларов.
Его позицию поддержал основатель xAI Илон Маск. Он отреагировал на публикацию Амодеи в социальной сети X и согласился с его оценкой.
На этом фоне Луна считает необходимым обеспечить возможность оперативного отключения ИИ-систем, задействованных в американской оборонной сфере.
Ранее сообщалось, что ведущие математики предупреждали о возможных рисках использования искусственного интеллекта в научной работе.
Изображение сгенерировано с помощью ИИ / Маргарита Неклюдова