Юридическая фирма Sullivan & Cromwell, один из заметных игроков на Уолл-стрит, принесла извинения федеральному судье из‑за ошибочного судебного документа: в подаче были обнаружены некорректные ссылки на судебные решения и иные неточности, которые, как утверждается, появились при использовании инструментов искусственного интеллекта.
Извинения суду и признание ошибок
21 апреля Sullivan & Cromwell направила письмо судье федерального уровня, в котором признала проблему в своей процессуальной документации. В послании от 18 апреля со‑руководитель глобальной группы по реструктуризации Андрей (Andrew) Дитдерих (Andrew Dietderich) пояснил, что ошибки включали так называемые «галлюцинации» ИИ.
Термин «галлюцинации» в контексте ИИ означает сбои, при которых система может «придумать» информацию: например, указать несуществующие или неправильные ссылки на дела, исказить формулировки правовых норм либо сослаться на источники, которых в действительности не существует.
В письме, адресованном главному судье Апелляционного/банкротного суда США по Южному округу Нью‑Йорка (U.S. Bankruptcy Court в Манхэттене) Мартину Гленну (Martin Glenn), Дитдерих отметил, что неточности были выявлены другой юридической фирмой — Boies Schiller Flexner. По словам автора письма, именно коллеги из Boies Schiller Flexner обнаружили, что в документе содержатся неверные цитирования.
«Я приношу извинения от имени всей нашей команды. Также я в пятницу связался с Boies Schiller Flexner LLP, чтобы поблагодарить их за то, что они обратили внимание на эту ситуацию, и чтобы принести извинения непосредственно им», — говорится в письме Дитдериха.
При этом в самом деле также участвует Boies Schiller. То есть представители этой фирмы не только заметили проблему, но и являются стороной разбирательства.
Как именно готовился документ: без уточнений
В письме не указано, какая именно программа искусственного интеллекта использовалась для подготовки судебной подачи. Сам Дитдерих и представитель Sullivan & Cromwell не дали оперативных комментариев на запросы.
Внутренние правила по ИИ не сработали
В направленном судье сообщении фирма заявила, что у нее действуют «всеобъемлющие политики и требования к обучению», посвященные использованию ИИ‑инструментов в юридической работе. По задумке такие меры должны снижать риск ошибок в цитировании, толковании и подборе материалов.
Однако Дитдерих подчеркнул: эти правила, по сути, не были соблюдены, а «вторичный процесс проверки» тоже не позволил обнаружить ошибочные ссылки, которые сгенерировал ИИ. После выявления проблемы Sullivan & Cromwell позднее подала исправленную версию документа.
Почему суды пристально следят за ИИ
В последние годы американские суды неоднократно применяли санкции к юристам в десятках дел, когда адвокаты использовали ИИ для исследования и подготовки текстов, но не провели достаточную проверку результатов. Важно, что использование ИИ как инструмента само по себе не является запретом — вопрос в том, выполняет ли юрист свою профессиональную обязанность по подтверждению точности материалов, которые затем попадают в судебные документы.
Иными словами, этическая ответственность за достоверность цитат и ссылок лежит на юристах, а не на программном обеспечении.
Дело в Нью‑Йорке и контекст вокруг Prince Global
Sullivan & Cromwell базируется в Нью‑Йорке и насчитывает более 900 юристов. Фирма традиционно считается одной из крупнейших корпоративных практик в США: она известна работой в сделках по слияниям и поглощениям, в спорах по корпоративному управлению, а также в вопросах, связанных с частным капиталом и private equity.
В нью‑йоркском разбирательстве фирма представляет иностранных представителей, участвующих в процедуре «сворачивания» (wind‑down) Prince Global Holdings Limited — камбоджийского конгломерата. Основатель и председатель компании Chen Zhi (Чен Чжи) обвиняется в федеральном суде в Бруклине: ему вменяют, как утверждается, руководство «компаундами» с принудительным трудом в Камбодже и масштабное инвестиционное мошенничество.
Представителя Prince Group оперативно не удалось привлечь к комментариям. В заявлении, опубликованном в прошлом году, Prince Group отрицала, что Чен Чжи совершал противоправные действия, и назвала обвинения безосновательными.
Кто еще участвует в процессе
Boies Schiller представляет группу оппонентов — objecting debtors — в рамках этого дела. При этом адвокат Boies Schiller, участвующий в разбирательстве, также не ответил на запрос о комментарии.
