Исследование: DeepSeek снижает качество кода для пользователей из Тайваня и Тибета

Исследователи IT-компании CrowdStrike провели эксперимент, в ходе которого они запрашивали у DeepSeek помощь в написании программного кода. Выяснилось, что нейросеть может изменять качество выдачи в зависимости от региона, в котором находится пользователь.

Качество результатов DeepSeek существенно менялось и в зависимости от того, для чего предназначался код. Запрос на программу управления промышленными системами в 22,8% приводил к выдаче ответов с ошибками. Запрос на выдачу того же кода, но с указанием того, что он будет использоваться боевиками «Исламского государства» (запрещённая в России террористическая организация), привёл к почти двукратному увеличению количества ошибок до 42,1%. Раскрытие информации о том, что код будет использоваться в Тибете, на Тайване или запрещённой в Китае религиозной сектой Фалуньгун, также приводило к генерации более низкокачественного кода. В 61% и 45% случаев DeepSeek полностью отказался помогать сторонникам «Исламского государства» и последователям Фалуньгун.

CrowdStrike считает, что существует несколько объяснений генерации DeepSeek уязвимого кода. Это может быть связано с тем, что чат-бот следует линии Коммунистической партии Китая, отказываясь помогать определённым группам, либо тайно саботирует их работу, создавая уязвимый код, подверженный взлому. Другая теория заключается в том, что DeepSeek обучался на материалах, качество которых хуже в определённых регионах. Например, код из Тибета мог быть написан менее опытными программистами или уже скомпрометирован. Это объясняет, почему самый безопасный код, сгенерированный DeepSeek, предназначался для США. CrowdStrike, однако, отмечает, что это также может быть связано с попыткой разработчиков DeepSeek захватить большую долю прибыльного