CEO Anthropic призвал к более жесткому надзору за ИИ-сферой

• Дарио Амодеи опубликовал эссе на тему рисков развития ИИ.
• Он считает, что контроль за индустрией следует ужесточить.
• Также CEO Anthropic поднял вопросы роста безработицы и потенциального влияния ИИ на гражданские свободы.

CEO компании Anthropic Дарио Амодеи заявил, что власти США должны внедрить обязательные требования безопасности для самых мощных ИИ-моделей. Об этом говорится в новом эссе под названием Policy on the AI Exponential.

Медлить больше нельзя

Амодеи подчеркнул, что сфера ИИ развивается крайне быстрыми темпами. За четыре года индустрия шагнула от примитивных решений до моделей, которые пишут большую часть кода для крупных технокомпаний. И темп роста, по мнению CEO Anthropic, будет только нарастать.

В таких условиях власти не могут медлить, считает он. За те годы, которые потребуются Конгрессу США на разработку мер, ИИ превратится из «игрушки» в «страну гениев в рамках одного дата-центра».

Текущих мер, а именно требований к прозрачности, экспортного контроля за чипами и сбора данных о влиянии ИИ на рынок труда, уже недостаточно, считает Амодеи.

При этом дело не ограничивается только потенциальной угрозой в киберсфере:

Те же первые шаги, которые уже были предприняты, отстают от темпов развития индустрии как минимум на год, подчеркнул Амодеи.

Что предлагает CEO Anthropic?

Из эссе следует, что Амодеи поддерживает ужесточение надзора. Это предусматривает, в частности:

• обязательное тестирование мощных моделей. Модели выше определенного порога вычислений должны проходить независимую проверку третьей стороной;
• фокус на определенных рисках. Проверка моделей должна проводиться на киберугрозы, риски создания биологического оружия, потерю контроля над ИИ-системами и возможность автоматизированной разработки;
• п