Компания Huawei опровергла обвинения в плагиате моделей ИИ

Компания Huawei публично опровергла сообщения о том, что её модель Pangu Pro MoE с открытым исходным кодом является «переработанным продуктом», созданным на основе разработок Alibaba.

В официальном заявлении лаборатории Huawei Noah's Ark Lab компания сообщает, что модель Pangu Pro MoE была разработана собственными силами и обучена с нуля на аппаратной платформе Huawei Ascend. Huawei настаивает на том, что модель не была создана путём дальнейшего обучения на модели другого поставщика.

Эти заявления сделаны в ответ на анализ, проведённый компанией «HonestAGI», который был удален с GitHub, но все еще доступен через Wayback Machine. В отчете под названием «Внутренний отпечаток больших языковых моделей: продолжение обучения — это НЕ все, что нужно для кражи модели!» подчеркивается сильное сходство между Pangu Pro MoE от Huawei и Tongyi Qianwen Qwen-2.5 14B от Alibaba, особенно в распределении параметров внимания.

Анонимный анализ с GitHub показал, что модель Huawei, возможно, была обучена не с нуля, а «переработана». Huawei отвергает это утверждение, подчёркивая, что, хотя в некоторых кодах используются «стандартные для отрасли методы работы с открытым исходным кодом», все компоненты с открытым исходным кодом имеют соответствующие лицензии и маркировки.

Обвинения прозвучали в непростой для Huawei момент, когда компания пытается доказать, что её модели Pangu, обученные на чипах Ascend, могут конкурировать с мировыми лидерами в области искусственного интеллекта. Это важно, поскольку Китай ищет альтернативу Nvidia на фоне ужесточения экспортных ограничений со стороны США.

Для Китая чипы Huawei — это способ обойти ужесточение ограничений США в отношении графических процессоров Nvidia. Последствия этих ограничений уже ощущаются: по