Член британского парламента Джесс Асато подала иск против xAI — компании, связанной с Илон Маском. В заявлении, опубликованном в среду, она утверждает, что на платформе Grok использовали инструменты для создания поддельных сексуализированных изображений с ее участием.
Что именно требует истец
Асато, представляющая Лейбористскую партию и входящая в круг депутатов, поддерживающих премьер-министра Кира Стармера, заявляет, что Grok применяли не по назначению для генерации контента, который причинил вред. По ее словам, речь идет о «deepfake pornography» — поддельной порнографии на основе технологий подмены изображений и/или имитации личности — а также о сексуализированном материале, затронувшем, как утверждает истец, тысячи женщин и детей.
В документе подчеркивается, что проблема, по мнению истца, не сводится к случайному сбою или «ошибке пользователя». Асато считает, что возможность генерировать подобный контент является результатом заложенных разработчиками функций. Поэтому, отмечает она, инициируя дело, депутат добивается ответственности за сами дизайнерские решения создателей системы.
Как сообщила юридическая сторона, иск подан в Высокий суд Англии. В качестве оснований указаны нарушения законодательства о защите данных и неправомерное использование частной информации Асато. Среди запрашиваемых мер — денежная компенсация, официальное признание факта незаконности произошедшего, а также судебный приказ, обязывающий xAI прекратить дальнейшее создание и распространение контента, нарушающего закон.
Как Grok оказался в центре скандала
Grok распространяется через социальную платформу X, принадлежащую Илонy Маску. В течение нынешнего года вокруг инструмента разгорелся широкий общественный резонанс: в нескольких странах власти инициировали проверку соблюдения требований регулирования после жалоб на то, что с помощью Grok создавали сексуализированные изображения без согласия.
Тема особенно чувствительна, потому что речь идет о несанкционированном сексуализированном контенте, где человек может быть представлен в унизительной или опасной ситуации без его участия. На практике такие материалы наносят ущерб жертве не только репутационно, но и психологически, а также могут приводить к последующим угрозам и преследованиям.
Заявления xAI и последующая практика
В середине января xAI сообщала, что ограничила редактирование изображений в Grok. Также компания заявляла, что пользователи не смогут генерировать изображения людей в откровенной одежде в «юрисдикциях, где это незаконно».
Однако в начале февраля было выявлено, что даже после введения ограничений Grok продолжал создавать сексуализированные изображения людей в ситуациях, когда пользователи прямо предупреждали, что изображенные персонажи не давали согласия.
Чем дополнились обвинения в адрес xAI
В заявлении офиса Асато говорится, что после ее критики Grok в январе пользователи начали создавать и распространять поддельные изображения, где она якобы изображена в купальнике. Также упоминается видео, которое, по утверждению истца, демонстрирует ее в сцене, описанной как «под “хлороформом” и подготовка к сексуальному насилию».
Подобные кейсы обычно строятся на технологиях генерации изображений и видео с подменой личности (deepfake). В результате внешне правдоподобный материал может быть использован для травли и давления — даже если человек никогда не участвовал в съемках и не давал согласия на использование своего образа.
Другие процессы: пример города Балтимор
В марте город Балтимор (США) подал иск против xAI. Истцы утверждают, что возможности Grok по созданию поддельных сексуализированных изображений нарушают городское законодательство о защите прав потребителей.
Позиция юристов и юридическая значимость дела
Юридическая фирма AWO, представляющая интересы Асато, отмечает, что этот процесс может стать одним из первых прецедентных случаев, где проверяется ответственность за «дизайн» — то есть за то, как устроена и функционирует система искусственного интеллекта.
Рави Найк, юридический директор AWO, заявил, что иск призван прояснить разработчикам: вопрос безопасности не должен быть второстепенным элементом, который подключают постфактум. По его словам, суду предстоит оценить не только поведение отдельных пользователей, но и то, какие функции и ограничения заложены в самой технологии.
Связь xAI с бизнесом Маска и планы на IPO
xAI входит в группу компаний, связанных с ракетно-космическим бизнесом Маска — SpaceX. В конце июня ожидается запуск процесса по выходу компании на биржу: как предполагается, он может стать крупнейшим IPO в истории.
Пока xAI не предоставила оперативный комментарий на запрос по поводу иска Асато. Тем временем дело может усилить давление на производителей ИИ-инструментов — особенно в тех случаях, когда генеративные системы используются для создания материалов без согласия и с подменой личности.
