Microsoft: работа ИИ-функции Copilot в Windows сопряжена с рисками кражи данных

Инструмент Copilot Actions в Windows 11 уже доступен в сборках Insider, но требует для настройки прав администратора. При этом Microsoft признаёт, что работа функции может вызывать «новые риски безопасности». 

Компания предупреждает о возможности внедрения перекрёстных запросов (XPIA), когда вредоносный контент в документах или элементах пользовательского интерфейса может переопределять инструкции ИИ. Это, как признают в Microsoft, может привести к краже данных или установке вредоносного ПО.

Вот как выглядит предупреждение Microsoft: «Мы рекомендуем включать эту функцию только в том случае, если вы понимаете последствия для безопасности». 

При попытке включить Copilot Actions на экране появляется окно с сообщением такого содержания: «Эта функция всё ещё тестируется и может повлиять на производительность или безопасность вашего устройства».

Уровень доступа, требуемый Copilot Actions, действительно вызывает беспокойство. Функция может применять операции чтения и записи к папкам «Документы», «Загрузки», «Рабочий стол», «Изображения», «Видео» и «Музыка». При этом все действия регистрируются, а пользователи должны одобрять запросы на доступ к данным. Сама функция работает в изолированных рабочих пространствах, а система отслеживает её активность с помощью журналов аудита.

Тем не менее, даже в Microsoft признают, что, помимо рисков безопасности, ИИ может «галлюцинировать и выдавать неожиданные результаты». Компания добавила в свой документ поддержки предупреждение: «По мере внедрения новых возможностей модели ИИ всё ещё сталкиваются с функциональными ограничениями в плане своего поведения и иногда могут галлюцинировать и выдавать неожиданные результаты». Однако Microsoft не описала, какие действия следует предпринять, чтобы