OpenAI, Anthropic и Google скоординировались против DeepSeek и других китайских лабораторий

Три главных конкурента американского ИИ-рынка — OpenAI, Anthropic и Google — впервые начали официально обмениваться данными для борьбы с китайскими лабораториями, которые вытаскивают возможности из их моделей через атаки извлечения. Об этом 6 апреля сообщил Bloomberg со ссылкой на источники, знакомые с ситуацией. Издание называет это "редким сотрудничеством", подчеркивающим серьезность угрозы.

Каналом координации стал Frontier Model Forum — некоммерческая организация, которую эти же три компании вместе с Microsoft основали еще в июле 2023 года. Изначально форум позиционировался как площадка для исследований безопасности ИИ и обмена практиками с регуляторами. Теперь через него идет обмен данными о так называемой враждебной дистилляции (adversarial distillation) — техники, при которой атакующий шлет большой поток специально подобранных запросов в модель-донор, собирает ответы и использует их для обучения собственной модели. Сама по себе дистилляция — легитимная практика, компании регулярно дистиллируют свои модели в более легкие версии для клиентов. Граница проходит по нарушению пользовательского соглашения.

Это качественный сдвиг по сравнению с тем, что было в феврале. Тогда каждая из трех компаний действовала сама: OpenAI отправила меморандум в комитет Палаты представителей по Китаю с жалобой на DeepSeek; Anthropic выпустила пост, где обвинила DeepSeek, MiniMax и Moonshot в координированных кампаниях; Google пожаловалась на массовые попытки извлечь из Gemini сведения для кодинга и сбора учетных данных. По данным Anthropic, три китайские лаборатории совокупно сгенерировали более 16 миллионов запросов к Claude через примерно 24 000 фейковых аккаунтов, которые работали через коммерческие прокси-сервисы (Claude в Китае