Anthropic временно отключила Fable 5 и Mythos 5 — реальный взлом AI-моделей или кто-то перенервничал?

Пару дней назад Anthropic запустила Fable 5 и Mythos 5 — AI-модели, которые заявляются как самые мощные на данный момент.

Пользователи еще не успели оценить все преимущества новинок, как случилось неожиданное: по требованию властей США разработчик заблокировал доступ к продвинутому искусственному интеллекту.

Anthropic заявила, что правительство США получило от органов национальной безопасности информацию, что кому-то удалось взломать Fable 5. Однако компания отметила, что не получила доказательств того, что кому-то удалось найти универсальный джейлбрейк, но на всякий случай отключила обе модели. Для пользователей это означает только временное отсутствие Fable 5, поскольку Mythos 5 доступен исключительно доверенным клиентам.

Примечательно, что власти США потребовали от Anthropic отключить Fable 5 только для иностранных граждан, даже если они находятся в США, но компания пошла на более справедливый, хотя и непопулярный шаг, и перекрыла доступ к AI-модели для всех.

Anthropic уверена, что данная ситуация является недоразумением и всесторонне изучает ее для скорейшего урегулирования проблемы, при этом все модели Claude остаются в свободном доступе.

Источник: Anthropic