Эксперты: разработчики ИИ-моделей «абсолютно не готовы» к угрозам сверхинтеллекта

• Все крупные компании получили оценки D и ниже за планирование экзистенциальной безопасности.
• OpenAI и DeepMind показали худшие результаты по методам управления рисками.
• Эксперты сравнили ситуацию с запуском АЭС без плана предотвращения катастрофы.

Крупнейшие разработчики ИИ не имеют четких стратегий по обеспечению безопасности систем с интеллектом на уровне человека. К такому выводу пришел Институт будущего жизни (FLI), опубликовавший доклад о текущем уровне готовности индустрии к появлению искусственного сверхразума (AGI).

Организация отметила, что протестировала семь крупнейших разработчиков больших языковых моделей (LLM). По итогу ни один из участников теста не получил оценку выше D за планирование экзистенциальной безопасности.

Среди рассматриваемых компаний значатся OpenAI, Google DeepMind, Anthropic, Meta, xAI, а также китайские Zhipu AI и DeepSeek. Индекс охватывает шесть направлений, включая текущие угрозы и готовность к потенциальным катастрофическим последствиям выхода ИИ из-под контроля.

Наивысший общий балл — C+ — получил стартап Anthropic. За ним следуют OpenAI с C и Google DeepMind с оценкой C-. Остальные компании показали еще более слабые результаты. Один из рецензентов заявил, что ни у одной из организаций нет «ничего похожего на последовательный, реализуемый план» по контролю над ИИ.

По словам соучредителя FLI и профессора MIT Макса Тегмарка, передовые компании строят системы, сравнимые по опасности с ядерными объектами. При этом они не публикуют даже базовых планов по предотвращению катастроф. Ученый подчеркнул, что темпы развития ИИ опережают прежние ожидания. Если раньше речь шла о десятилетиях, то теперь сами компании говорят о горизонте в несколько лет.