Компания Anthropic задокументировала критическую уязвимость в Claude Cowork

Спустя всего несколько дней после презентации Claude Cowork компанией Anthropic исследователи в области безопасности задокументировали критическую уязвимость, позволяющую злоумышленникам красть конфиденциальные файлы пользователей посредством внедрения скрытых командных запросов - хорошо известной проблемы систем искусственного интеллекта.

Согласно исследователям безопасности из PromptArmor, новая система искусственного интеллекта Claude Cowork от Anthropic уязвима для утечки файлов посредством косвенной инъекции подсказок. Они задокументировали эту уязвимость всего через два дня после запуска предварительной исследовательской версии.

Уязвимость связана с недостатком изоляции в среде выполнения кода Claude, который был известен еще до появления Cowork. По данным PromptArmor, исследователь безопасности Йоханн Ребергер ранее выявил и сообщил об этой проблеме в чате Claude.ai. Компания Anthropic признала проблему, но, как утверждается, так и не исправила ее.

Описанная PromptArmor цепочка атак начинается с того, что пользователь подключает Cowork к локальной папке, содержащей конфиденциальные данные. Затем злоумышленник получает файл со скрытым внедрением запроса подсказки в эту папку.

Этот метод особенно коварен: злоумышленники могут скрыть внедрение кода в файле .docx, замаскированном под безобидный документ с описанием навыка - новый метод, используемый в системах искусственного интеллекта, разработанный компанией Anthropic . Файлы с описанием навыков уже распространяются в интернете, поэтому пользователям следует проявлять осторожность при их загрузке из ненадежных источников.

Вредоносный текст использует шрифт размером 1 пункт, белый цвет на белом фоне и межстрочный интервал 0,1, что делает его практически невидимым для