Член парламента Великобритании Джесс Асато подала в суд на компанию xAI, связанную с Илоном Маском. В исковом заявлении утверждается, что при помощи платформы Grok — системы искусственного интеллекта, доступной через социальную сеть X, — создавались поддельные сексуализированные изображения, направленные против заявительницы.
Что именно утверждает Асато
Как говорится в заявлении Асато, Grok использовался для генерации материалов, которые она квалифицирует как дипфейковую порнографию и сексуализированный контент. По ее словам, такие изображения причиняют вред не только ей, но и затрагивают тысячи женщин и детей.
Политик подчеркнула, что, по ее мнению, проблема не сводится к случайным ошибкам или отдельным сбоям. По словам Асато, возможности платформы, приведшие к появлению подобных материалов, являются результатом осознанных решений разработчиков.
«Способность системы — не случайность и не неправильное использование. Это выбор, заложенный создателями. Подавая этот иск, я добиваюсь ответственности за эти решения», — заявила она.
Grok и доступ через X
Grok — это платформа генеративного ИИ, которая интегрирована с экосистемой Маска и доступна пользователям через X. Генеративные модели способны создавать изображения и тексты на основе запросов пользователя. Именно поэтому в центре споров оказывается то, как настроены ограничения: что именно модель может генерировать, а что должно блокироваться.
В публичных обсуждениях и критике в адрес Grok речь шла о создании не согласованных с изображенными людьми сексуализированных материалов — то есть контента, который производится без разрешения и может использоваться для травли и манипуляций.
Почему дело стало возможным на фоне проверок
Ситуация вокруг Grok привлекла внимание надзорных органов в нескольких странах. Причиной стали публичные претензии, прозвучавшие ранее в текущем году, и связанные с ними вопросы о том, как система влияет на появление материалов, нарушающих права и личную неприкосновенность.
Важно уточнить терминологию: в таких кейсах чаще всего фигурируют понятия «неприкосновенность личности», «создание контента без согласия» и «дипфейк». Дипфейк — это подделка, в которой изображение или голос человека подменяется с помощью технологий, чтобы создать правдоподобную имитацию. Когда дипфейк используется в сексуализированном контексте без согласия человека, это обычно рассматривается как особенно тяжкое нарушение.
Роль Асато в британской политике
Джесс Асато — депутат и представитель Лейбористской партии, связанной с премьер-министром Кейром Стармером. В иске, по сути, объединяются сразу два направления: вопросы правовой ответственности за действия ИИ-систем и требования к платформам, которые предоставляют технологии конечным пользователям.
Что ранее говорила xAI о настройках Grok
В середине января xAI заявляла, что ограничила функции редактирования изображений в Grok. Компания также сообщала, что пользователям не позволяли создавать изображения людей в откровенной одежде в тех юрисдикциях, где подобный контент считается незаконным.
Ожидается, что ключевым предметом разбирательства станут именно настройки и поведение системы: какие запросы она могла удовлетворять, как работали фильтры, и были ли в логике продукта заложены механизмы, позволявшие обходить ограничения.
Контекст вокруг xAI и Маска
xAI входит в структуру бизнеса Илона Маска, тесно связанного с ракетно-космической компанией SpaceX. При этом в конце месяца ожидается событие, которое может стать одним из крупнейших в истории: предполагается, что компания готовится к тому, что станет крупнейшим IPO за всю историю.
Чего ждать дальше
Пока неизвестно, как суд квалифицирует действия платформы и какие меры могут быть применены к xAI. В подобных делах обычно рассматриваются вопросы ответственности разработчика и владельца платформы, наличие или отсутствие достаточных технических ограничений, а также — степень контроля над тем, как пользователи применяют инструмент.
Если требования Асато будут удовлетворены, дело может повлиять на правила использования генеративных систем ИИ и на то, как компании обязаны защищать людей от вреда, связанного с созданием несанкционированного сексуализированного контента.
