Администрация президента США рассматривает возможность заранее подключать государство к проверкам новых моделей искусственного интеллекта — до того, как их результаты станут доступны широкой публике. Идея обсуждается в контексте усиления контроля за рисками, которые могут возникать при появлении мощных ИИ-систем, и предполагает, что оценка безопасности может стать частью «входного» процесса для разработчиков.
Что именно планируют в Вашингтоне
По данным о внутренних обсуждениях, в Белом доме изучают вариант исполнительного указа, который должен закрепить создание специальной рабочей группы по вопросам ИИ. Ее ключевая задача — объединить представителей технологического сектора и чиновников, чтобы совместно выработать подходы к надзору и определить, какие процедуры проверки могут применяться к новым моделям.
Среди возможных сценариев фигурирует внедрение формального механизма государственного рассмотрения. Под «обзором» в данном случае обычно понимают этап, на котором власти оценивают, насколько модель соответствует заранее заданным требованиям: например, снижению рисков причинения вреда, устойчивости к злоупотреблениям и соблюдению определенных стандартов безопасности.
Кого привлекли к обсуждениям
На прошлой неделе представители администрации встречались с руководителями компаний из числа ведущих игроков в сфере генеративного ИИ. В частности, речь идет о переговорах с представителями Anthropic, Google и OpenAI. Встречи были посвящены обсуждению некоторых планов по организации надзора и формату возможного взаимодействия между государством и разработчиками.
Кто такие Anthropic, Google и OpenAI
Эти компании относятся к числу наиболее заметных производителей современных ИИ-моделей, которые используются для текстовых, голосовых и иных типов генерации контента. Именно поэтому участие бизнеса в обсуждении надзорных процедур считается логичным: государству нужны практические знания о том, как в реальности устроены разработка, тестирование и выпуск моделей.
На что может быть похожа американская схема
Потенциальный формат будущей проверки в США, как предполагают в отрасли и в администрации, может напоминать подход, который уже формируется в Великобритании. Там несколько государственных структур получили задачу удостоверяться, что модели ИИ соответствуют определенным требованиям безопасности.
Чтобы точнее понимать терминологию: «проверка безопасности» в таких программах обычно включает оценку рисков и мер предотвращения нежелательного поведения модели. Это может охватывать как технические испытания (например, устойчивость к ошибочным или вредным выводам), так и организационные аспекты (процедуры тестирования, готовность реагировать на инциденты и т.д.).
Почему вопрос о предварительном надзоре стал актуальным
Идея заблаговременного контроля связана с тем, что современные модели способны быстро распространяться и оказывать влияние на общество — от информационной среды до инструментов в бизнесе и образовании. Чем раньше модель выходит в открытый доступ, тем сложнее ограничить последствия потенциальных ошибок или злоупотреблений. Поэтому предварительный обзор рассматривается как способ снизить вероятность нежелательных сценариев еще до массового использования.
-
Предварительный надзор — оценка модели до публичного релиза.
-
Рабочая группа — площадка для совместной выработки правил между государством и технологическими компаниями.
-
Исполнительный указ — юридический инструмент, который президент может использовать для организации работы госструктур и запуска новых процедур.
Чем может завершиться обсуждение
Пока речь идет о рассмотрении вариантов и обсуждениях, а не о финальном утвержденном механизме. Однако сама логика планов — собрать экспертов из индустрии и госорганов, определить критерии безопасности и, возможно, ввести формальный государственный обзор — указывает на стремление США выстроить более системный подход к выпуску новых поколений ИИ.
