В ближайшие дни представители Соединённых Штатов и Китая встретятся в Пекине, чтобы обсудить подходы к регулированию искусственного интеллекта и согласовать меры, которые принято называть «ограждениями» — то есть правилами и техническими ограничителями, призванными снижать риски от самых мощных систем. Одновременно стороны планируют выработать протокол по лучшим практикам: речь идёт о том, как не допустить попадания передовых моделей в руки не государственных акторов — например, частных групп, отдельных лиц или структур, действующих вне официального контроля.
Что именно будут обсуждать в Пекине
Главная тема переговоров — так называемые AI guardrails. Этот термин обычно используют для обозначения набора процедур и ограничений, которые помогают системе ИИ не выходить за рамки допустимого поведения. На практике «ограждения» могут включать фильтрацию запросов, контроль выходных данных, верификацию контента, а также меры по снижению вероятности злоупотреблений — от создания вредоносных инструкций до масштабирования опасных сценариев.
По итогам встречи делегации намерены закрепить протокол, описывающий лучшие практики. В контексте международных дискуссий это, как правило, означает согласование ориентиров: какие проверки проводить до выпуска моделей, как оценивать риски, какие стандарты безопасности применять при доступе к технологиям и каким образом отслеживать попытки обойти ограничения.
Позиция США: безопасность без «удушения» инноваций
Глава американской делегации (в обозначенном материале — Бессент) в предварительно записанном интервью телеканалу CNBC заявил в четверг, что вопрос «крайне важен» с точки зрения сохранения лидерства США в сфере ИИ по сравнению с Китаем. По его словам, именно поэтому Пекин заинтересован в обсуждении guardrails: если обе стороны стремятся контролировать риски, то проще согласовать правила, не разрушая конкурентоспособность.
При этом Бессент подчеркнул, что приоритет — не ограничивать развитие технологий ради самих ограничений. Он отметил, что США не хотят «тормозить инновации». Вместо этого, по его логике, ответственность Вашингтона состоит в том, чтобы совместить высокую производительность ИИ с повышенным уровнем безопасности.
Как формулируется цель
В интервью звучала мысль, что задача сводится к поиску баланса: добиться максимальной эффективности вычислений и приложений, при которых внедрение инноваций остаётся возможным, но одновременно повышается степень защиты от потенциального вреда. Иными словами, речь идёт о «калькуляции» — выборе параметров и подходов, позволяющих максимально раскрыть потенциал технологий, не создавая условий для опасных злоупотреблений.
Почему вопрос касается не только государств
Отдельный акцент сделан на рисках, связанных с не государственными участниками. В международной практике под «не государственными актерами» обычно подразумевают структуры и группы, не входящие в официальную систему власти: они могут преследовать разные цели — от коммерческих до криминальных или идеологически мотивированных. Поскольку наиболее мощные модели ИИ способны ускорять процессы — в том числе в сферах, связанных с киберрисками, дезинформацией или созданием вредоносного контента, — стороны стремятся договориться о механизмах, которые усложнят доступ к таким инструментам для тех, кто может использовать их во вред.
Контекст: что стоит за обсуждением guardrails
В последние годы правительства обсуждают, как регулировать ИИ, особенно модели, которые могут генерировать тексты, изображения и инструкции, а также выполнять сложные задачи. Главная сложность заключается в том, что слишком жёсткие запреты могут замедлить технологический прогресс, а отсутствие единых правил — наоборот, повысить вероятность злоупотреблений. Поэтому переговоры США и Китая в Пекине рассматриваются как попытка выстроить общий контур безопасности: согласовать ориентиры и стандарты, которые позволят снизить риски, но сохранить пространство для развития.
Встреча состоится в Пекине, а обсуждение стартует в рамках двустороннего контакта, запланированного на 14 мая. Итогом, как ожидается, станет набор договорённостей о протоколе и принципах, которые должны помочь не допустить использования самых мощных ИИ-моделей в интересах не государственных акторов — при одновременном сохранении темпов инноваций.
