Министерство торговли США убрало с сайта ведомства подробности о договорённости с Google, xAI и Microsoft, в рамках которой планировалось тестировать их модели искусственного интеллекта на наличие уязвимостей безопасности. Речь идёт о проверках, которые должны помочь заранее выявлять риски, способные затронуть как кибербезопасность, так и устойчивость критически важных систем.
Страница с анонсом исчезла
Ссылка, которая раньше вела к сообщению о старте испытаний, больше не открывается. По состоянию на понедельник во второй половине дня в Вашингтоне при попытке перейти на страницу пользователь видел уведомление: «Извините, мы не можем найти эту страницу». Позднее выяснилось, что перенаправление происходило на ресурс Центра по стандартам и инновациям в области ИИ (Center for AI Standards and Innovation) — это профильная правительственная структура, отвечающая за организацию данных тестов.
При этом остаётся неясным, почему именно материалы были удалены или изменены. В подобных ситуациях причины могут быть связаны как с техническими настройками сайта, так и с пересмотром формулировок публичных уведомлений или регламентов доступа к информации.
Что именно планировали проверить
Во вторник ведомство сообщило, что компании передадут для тестирования новые модели ИИ до того, как начнут публичное развертывание. Такой подход предполагает ранний этап контроля: государственные специалисты смогут оценить модели на предмет потенциальных «слабых мест» — то есть уязвимостей, которые злоумышленники могут использовать.
Важно пояснить термин «уязвимость безопасности» в контексте ИИ. Это не только программные недочёты в коде, но и риски, связанные с тем, как система ведёт себя при определённых входных данных: например, может ли она быть подвержена манипуляциям, утечкам информации, небезопасным сценариям использования или способна ли её поведение быть использовано для кибератак и других вредоносных действий.
Почему тема стала чувствительной для США
В правительстве США растёт обеспокоенность национальными рисками, которые могут создавать мощные системы ИИ. Под пристальным вниманием оказываются не только «общие» угрозы, но и конкретные разработки крупных игроков отрасли, включая модель Anthropic Mythos. Смысл ранних проверок в том, что доступ к передовым моделям позволяет заранее отследить потенциальные угрозы — от кибернетических атак до сценариев военного или иного неправомерного применения.
Какие риски подразумеваются
- Киберугрозы — использование возможностей ИИ для разработки, оптимизации или маскировки атак.
- Злоупотребление в сфере безопасности — применение технологий в целях, противоречащих интересам национальной безопасности.
- Опасные сценарии использования — ситуации, когда модель может быть направлена на получение запрещённой информации или выполнение вредоносных действий.
О чём говорит перенос материалов на сайт центра
То, что ссылка впоследствии перенаправлялась на сайт Center for AI Standards and Innovation, указывает на возможную концентрацию информации в одном профильном месте. Этот центр в рамках государственной инициативы занимается вопросами стандартов и практик, связанных с испытаниями и оценкой рисков в области искусственного интеллекта.
В результате пользователи, которые ранее ожидали найти детали на прежней странице Министерства торговли, теперь вынуждены обращаться к ресурсам центра, ответственным за реализацию тестов.
