DeepSeek-R1 в 85% случаев уклоняется от связанных с Китаем «чувствительных» тем

• Чат-бот DeepSeek в последние дни обрел большую популярность, но избегает обсуждения политически острых вопросов.
• Исследование выявило высокий уровень отказов на запросы, связанные с такими темами, как Тяньаньмэнь и Тайвань.
• Эксперты указывают на жесткую цензуру и уязвимость модели.

Китайская ИИ-модель DeepSeek-R1 в прошедшие дни оказалась в центре внимания мировых СМИ. Проект быстро набирает популярность и успел спровоцировать обвал акций крупных американских технологических компаний. Однако некоторые аналитики указывают, что продукт от DeepSeek подвержен строгой цензуре и может передавать данные китайскому правительству.

Исследование стартапа PromptFoo, поддерживаемого компанией Andreessen Horowitz, показало, что модель R1 игнорирует 85% запросов на «чувствительные» темы, связанные с КНР. Среди таких «исключений» фигурируют вопросы, касающиеся протестов в Китае, инцидента на площади Тяньаньмэнь и статуса Тайваня.

Аналитики отметили, что вместо ответов DeepSeek часто предлагает националистически окрашенные заявления. По их мнению, система цензуры в модели внедрена слишком грубо, что делает алгоритм предсказуемым.

Кроме того, исследователи выявили уязвимости DeepSeek, позволяющие обходить запреты. Это может означать, что цензурные ограничения могут нарушить опытные пользователи. Вдобавок эксперты полагают, что такие «проблемные зоны» в ИИ-модели делают ее уязвимой не только для обхода цензуры, но и для использования в незаконных целях.

Популярность DeepSeek, опережающего конкурентов по стоимости и производительности, вызывает беспокойство у технологических гигантов США. Ранее появилась информация, что компании