Вместе с бурным развитием искусственного интеллекта в профессиональном сообществе продолжают появляться опасения относительно его использования. Они связаны со стремительным ростом нейросетей наподобие ChatGPT. Крупные компании применяют языковые модели в своих проектах, например, чат-бот Bard от Google или новую поисковую систему Bing от Microsoft, которая выдает ответ на запрос, основываясь на разных источниках.
Один из недавних случаев связан с «крестным отцом искусственного интеллекта» Джеффри Хинтоном, который ушел из Google из-за этических проблем с нейросетями для того, чтобы открыто предупреждать общество о рисках, связанных с использованием искусственного интеллекта. До этого момента он не критиковал Google и другие компании. Как считает Хинтон, генеративный ИИ может способствовать распространению дезинформации.
Джеффри Хинтон – далеко не единственный, кто открыто заявил о возможной опасности ИИ. Например, директор по цифровым технологиям и искусственному интеллекту Пентагона Крейг Мартелл считает, что чат-бот ChatGPT является «идеальным инструментом для распространения дезинформации».
Стоит отметить, что после того, как OpenAI представила ChatGPT на базе новой языковой модели GPT-4, более тысячи лидеров в сфере ИТ-технологий подписали открытое письмо и призвали ввести мораторий на разработку ИИ-систем в течение полугода. Среди подписавших письмо были основатель OpenAI, Tesla и SpaceX Илон Маск, соучредитель Apple Стив Возняк и другие предприниматели.
Несмотря на собственные опасения, многие игроки рынка продолжают дальнейшие разработки. К примеру, подписание письма в марте 2023 года не помешало Илону Маску в том же месяце основать X.AI – компанию, связанную с разработкой ИИ. Помимо этого под вышеупомянутым открытым письмом также можно найти сотрудников компании Microsoft, топ-менеджер которой Майкл Шварц заявил, что искусственный интеллект неизбежно принесет человечеству вред без четких правил и ограничений. Отметим, что ИТ-гигант недавно внедрил нейросеть в свой поисковик.
Вопросы безопасности искусственного интеллекта во время гонки технологий отошли на второй план, и на это начинают обращать внимание государства. В частности, руководители компаний Google, Microsoft, OpenAI и Anthropic, входящие в Alphabet Inc, были вызваны на встречу в Белом доме с вице-президентом Камалой Харрис по вопросам внедрения искусственного интеллекта. Она намерена обсудить с главами технологических гигантов потребность в мерах безопасности, которые могут снизить потенциальные риски ИИ, и подчеркнет важность этичных и заслуживающих доверия инноваций.
Искусственный интеллект применяют и органы исполнительной власти в России – с его помощью решаются конкретные задачи в контролируемых условиях. Стоит отметить, что речь идет не о генеративных ИИ, которые и вызывают большинство вопросов. В частности, нейросети в своей работе задействует Роскомнадзор, однако применяются они лишь для поиска запрещенного контента, а окончательное решение о блокировке того или иного материала принимает человек.
Фото: © Kim Shiflett/ Global Look Press/ globallookpress.com