США хотят проверять ИИ-модели на киберопасность до релиза: указ Трампа

Президент США Дональд Трамп подписал указ Promoting Advanced Artificial Intelligence Innovation and Security, который вводит добровольную схему раннего доступа государства к самым мощным ИИ-моделям. Цель — оценивать продвинутые киберспособности ИИ до выпуска. Несмотря на масштаб темы, подписание прошло без анонсированной заранее церемонии с участием глав техкомпаний — указ оформили в закрытом режиме.

Это смягченная версия документа, подписание которого Трамп отменил буквально за пару недель до этого. Механизм теперь устроен так: Агентство национальной безопасности (NSA) через засекреченный бенчмарк оценивает кибервозможности моделей и определяет порог, выше которого модель получает статус "covered frontier model". Для таких моделей государство сможет запрашивать доступ на срок до 30 дней — но не перед публичным релизом, как писали многие СМИ, а перед тем, как разработчик отдаст модель другим доверенным партнерам. Права блокировать выпуск у государства нет, а отдельный пункт указа оговаривает, что документ не создает обязательного лицензирования или разрешительного режима для разработки и выпуска моделей.

Помимо самой схемы доступа, указ содержит еще несколько пунктов:

Минюсту поручено в приоритетном порядке преследовать тех, кто использует ИИ для незаконного доступа к компьютерным системам — в том числе через ИИ-агентов, взламывающих чужие данные.

Минфин должен создать координационный центр по кибербезопасности, который будет согласовывать поиск уязвимостей и распространение патчей в добровольном сотрудничестве с индустрией.

Те самые "covered frontier models" планируют использовать и для защиты — давать к ним доступ агентствам, местным властям и операторам критической инфраструктуры вроде сельских больниц, небольших банков и