Глава Anthropic: ИИ нужно регулировать как авиацию — с правом блокировать модели

Гендиректор Anthropic Дарио Амодеи опубликовал эссе Policy on the AI Exponential, в котором призвал перейти к жесткому госрегулированию ИИ по образцу авиационной отрасли. Передовые модели, как самолеты, должны проходить обязательное тестирование и аудит перед релизом, а государство должно иметь право заблокировать или отозвать модель, не отвечающую стандартам безопасности. Эссе вышло 10 июня — на следующий день после релиза Claude Fable 5.

Предложение Anthropic выглядит так: модели выше определенного порога вычислений проходят обязательную проверку квалифицированной третьей стороной по четырем категориям рисков — кибербезопасность, угроза создания биологического оружия, потеря контроля над ИИ-системами и автоматизированные исследования, способные ускорить остальные три. Проверкой может заниматься госагентство по образцу FAA или авторизованные государством частные организации. Компании обязаны защищать веса моделей от утечек, проводить регулярные проверки имитацией атак и оперативно сообщать об инцидентах. Право блокировки должно быть ограничено четырьмя названными рисками и защищено от политического произвола.

Это разворот в позиции Anthropic. Раньше компания продвигала законы о прозрачности в разработке ИИ, как достаточную меру контроля. Теперь Амодеи прямо пишет, что прозрачности больше недостаточно: риски перестали быть гипотетическими. Главным доказательством он называет Claude Mythos Preview, который "перетряхнул глобальный ландшафт кибербезопасности" и показал, что передовые модели стали инструментами стратегического значения. Следом, по его прогнозу, придут биологические риски и риски автономии ИИ.

Экономический блок эссе посвящен вытеснению рабочих мест. Амодеи предлагает страхование зарплат (доплату тем, кто