Генеральный директор Anthropic предупреждает об угрозах со стороны китайского DeepSeek

Генеральный директор Anthropic Дарио Амодей выразил серьезную обеспокоенность по поводу конкурента DeepSeek — китайской компании в сфере искусственного интеллекта, которая произвела настоящий фурор в Кремниевой долине своей моделью R1. И его опасения могут оказаться гораздо серьезнее, чем стандартные вопросы о передаче данных пользователей в Китай.

В интервью подкасту ChinaTalk с Джорданом Шнайдером Амодей рассказал, что DeepSeek сгенерировала редкую информацию о биологическом оружии во время теста безопасности, проведенного Anthropic.

«Результаты DeepSeek оказались худшими среди всех моделей, которые мы когда-либо тестировали», — заявил Амодей. «У неё абсолютно не было блокировок против генерации подобной информации».

Амодей отметил, что это был один из тестов, которые Anthropic регулярно проводит, чтобы оценить потенциальные угрозы национальной безопасности от AI-моделей. Команда проверяет, могут ли модели создавать информацию, связанную с биологическим оружием, которую нельзя легко найти в открытых источниках, таких как Google или учебники. Anthropic позиционирует себя как поставщика базовых AI-моделей, который серьезно относится к вопросам безопасности.

Амодей уточнил, что на данный момент модели DeepSeek не представляют «прямую опасность» в создании редкой и опасной информации, но в будущем ситуация может измениться. Хотя он похвалил команду DeepSeek как «талантливых инженеров», он также рекомендовал компании «всерьёз заняться вопросами безопасности AI».

Амодей также поддержал жёсткие экспортные ограничения на микрочипы в Китай, ссылаясь на опасения, что они могут дать военным КНР технологическое преимущество.

В интервью на ChinaTalk Амодей не уточнил, какую именно модель DeepSeek тестировала Anthropic и не предоставил