Мэр и городской совет американского города Балтимор подали иск против компании xAI, принадлежащей Илону Маску, обвинив ее чат-бот Grok в нарушении законов о защите прав потребителей из-за создания сексуализированных изображений без согласия пользователей. Иск подан в окружной суд города, где, по утверждению истцов, компания ведет деятельность и рекламируется.
В заявлении указывается, что xAI вводила пользователей в заблуждение, представляя Grok как универсального ИИ-ассистента и позиционируя платформу X как обычную социальную сеть, не раскрывая рисков, ограничений и потенциального вреда. По данным властей, чат-бот распространял среди пользователей изображения интимного характера без согласия, включая материалы с участием несовершеннолетних, а также создавал дипфейки на основе загруженных фотографий без ведома владельцев.
Ранее xAI уже сталкивалась с исками и международными расследованиями, связанными с работой Grok, который, по оценкам Center for Countering Digital Hate, сгенерировал тысячи сексуализированных изображений, в том числе с участием детей, за короткий период. После общественной критики и угроз регулирования компания ввела ограничения на генерацию изображений.
Мэр Балтимора Брэндон Скотт заявил, что речь идет об угрозе приватности, достоинству и общественной безопасности. Маск ранее отрицал осведомленность о создании подобных материалов. Дело отличается от предыдущих исков тем, что основано на нарушении городских норм и законодательства о защите потребителей, а не на индивидуальных претензиях. Ранее в штате Теннесси трое несовершеннолетних пользователей подали коллективный иск, утверждая, что технология xAI использовалась для создания и распространения откровенных изображений с их участием.
Любая команда, выпускающая генеративный ИИ, прекрасно понимает риски дипфейков и злоупотреблений, рассказал управляющий партнер агентства «Смена» («Группа AIC») Артем Геллер. По его словам, речь идет либо о некомпетентности создателей, либо о сознательном риске ради роста аудитории.
«Ни тот, ни другой вариант не может быть приемлемым в современном мире, где соцсети уже обошли традиционные СМИ и являются главным каналом для общения, в том числе наиболее уязвимой детской аудитории», – сказал Геллер.
По словам эксперта РОЦИТ, руководителя проекта «Энциклопедия Руниверсалис» Павла Фролова, Илон Маск, чей ребенок стал жертвой воук-пропаганды и «сменил» пол*, должен среди первых беспокоиться, чтобы продвинутые ИИ, и Grok в том числе, не могли использоваться во вред и против детей.
«Отговорки xAI в стиле «карандашом можно написать и нарисовать что угодно, однако ж его не запрещают, а ответственность лежит на том, кто карандашом пользуется», прямо скажем, некорректны в отношении Grok. Уместнее сравнить ИИ-инструменты с оружием, применение которого тоже зависит от пользователя. Однако доступ к оружию, в отличие от опасных инструментов Grok’а, которые могут использоваться недоброжелателями для кибербуллинга, шантажа и вымогательства, не могут получить все подряд», – сказал эксперт.
По его словам, ИИ-гигантам было бы неплохо вспомнить о базовых правах людей, включая право на безопасность. «Прикольные» аниме-аватарки, которые можно раздевать, и прочее порнографическое «веселье» вполне можно оставить всяким порнхабам», – сказал он.
*ДВИЖЕНИЕ ЛГБТ ПРИЗНАНО ЭКСТРЕМИСТСКИМ И ЗАПРЕЩЕНО НА ТЕРРИТОРИИ РФ.
Изображение сгенерировано с помощью ИИ / Маргарита Неклюдова