Проблемы с использованием моделей Anthropic через AWS Bedrock

Согласно отчёту The Information, клиенты выражают недовольство Amazon Web Services из-за ограничений в платформе искусственного интеллекта Bedrock.

Несмотря на то, что AWS инвестирует в Anthropic, компания, как сообщается, испытывает трудности с надёжной доставкой моделей Anthropic через Bedrock. Некоторые пользователи жалуются на произвольные ограничения использования и отсутствие функций, в том числе кэширования подсказок — функции, которая уже давно доступна при прямом доступе к моделям Anthropic через собственный API компании. В результате некоторые стартапы, такие как Lovable и Praxis AI, переходят на собственный интерфейс Anthropic.

Согласно отчёту, во внутренних обсуждениях AWS текущие проблемы с производительностью платформы были названы «катастрофой». Однако представитель AWS Кейт Ворис публично опровергла эту характеристику, заявив, что ограничения в использовании не вызваны нехваткой ресурсов. Вместо этого она назвала ограничения стандартной отраслевой мерой для обеспечения «справедливого доступа» в условиях «беспрецедентного спроса».

Amazon и Anthropic заключили стратегическое партнёрство, ориентированное на искусственный интеллект и облачную инфраструктуру. Amazon инвестировала до 8 миллиардов долларов в Anthropic, став крупнейшим спонсором стартапа. Взамен Anthropic использует AWS в качестве основного поставщика облачных услуг и запускает свои модели искусственного интеллекта Claude на специальных чипах AWS (Trainium и Inferentia). Amazon интегрирует эти модели в свою платформу Bedrock AI, стремясь привлечь корпоративных и государственных клиентов.

Основной интерес Amazon заключается в увеличении доходов от облачных сервисов AWS за счёт поддержки ресурсоёмких рабочих нагрузок ИИ-стартапа Anthropic и привлечения