Почему новая модель AI от DeepSeek считает себя ChatGPT

На этой неделе DeepSeek, хорошо финансируемая китайская лаборатория AI, выпустила «открытую» модель AI, которая превосходит многих конкурентов по популярным показателям. Модель DeepSeek V3 крупная, но эффективная, легко справляется с задачами на основе текста, такими как программирование и написание эссе. Она также, похоже, считает себя ChatGPT.

Посты в X показывают, что DeepSeek V3 идентифицирует себя как ChatGPT, платформу чат-ботов на базе AI от OpenAI. Когда ее просят пояснить, DeepSeek V3 настаивает на том, что она является версией модели OpenAI GPT-4, выпущенной в 2023 году.

Заблуждения глубоки. Если спросить DeepSeek V3 о ее API, она даст инструкции по использованию API OpenAI. DeepSeek V3 даже рассказывает некоторые из тех же шуток, что и GPT-4 — вплоть до концовок.

Что же происходит? Модели, такие как ChatGPT и DeepSeek V3, являются статистическими системами. Обученные на миллиардах примеров, они изучают модели в этих примерах, чтобы делать прогнозы — например, как «кому» в письме обычно предшествует «может быть интересно».

DeepSeek не раскрыла много информации о источниках данных для обучения DeepSeek V3. Но существует немало публичных наборов данных, содержащих текст, сгенерированный GPT-4 через ChatGPT. Если DeepSeek V3 была обучена на этих данных, модель могла запомнить некоторые из выводов GPT-4 и теперь воспроизводить их дословно.

«Очевидно, что модель в какой-то момент видит сырые ответы от ChatGPT, но не ясно, где именно», — сказал Майк Кук, научный сотрудник Королевского колледжа Лондона, специализирующийся на AI. «Это может быть ‘случайно’ … но, к сожалению, мы видели случаи, когда люди напрямую обучали свои модели на выводах других моделей, чтобы попытаться воспользоваться их знаниями».

Кук отметил, что