CEO Anthropic: ИИ-модель DeepSeek «худшая» в тесте на безопасность данных

• Модель DeepSeek-R1 не смогла заблокировать генерацию опасной информации.
• Генеральный директор Anthropic выразил обеспокоенность потенциальными рисками.
• DeepSeek продолжает расти, несмотря на запреты со стороны правительственных структур в разных странах.

Генеральный директор компании Anthropic Дарио Амодей выразил серьезные опасения по поводу китайского стартапа DeepSeek. По его словам, их ИИ-модель R1 показала худший результат в тестах на безопасность данных.

В интервью подкасту ChinaTalk Амодей сообщил, что решение выдавало опасную информацию о биологическом оружии без каких-либо ограничений.

Anthropic регулярно тестирует ИИ-модели на способность генерировать чувствительные данные, которые трудно найти в открытых источниках. По мнению предпринимателя, продемонстрированные DeepSeek результаты могут представлять угрозу в будущем, несмотря на то, что сейчас модель не считается «опасной». Он призвал компанию серьезнее отнестись к вопросам безопасности ИИ.

Амодей также поддержал введение строгого контроля за экспортом чипов в Китай, опасаясь, что это может дать местным военным технологическое преимущество. Однако, несмотря на эти меры, глобальное распространение DeepSeek продолжается, и глава Anthropic признал ее серьезным конкурентом для ведущих ИИ-компаний мира.

Ранее DeepSeek также подверглась критике со стороны фирмы Cisco. Ее эксперты заявили, что модель R1 успешно генерировала вредоносную информацию о киберпреступности и другой незаконной деятельности.

Хотя другие ИИ-продукты, вроде GPT-4o от OpenAI и Llama-3.1 от Meta, также показали высокий уровень рисков в подобных тестах, результат DeepSeek вызвал