Президент Signal: агентский ИИ «глубоко уязвимым» с точки зрения безопасности и конфиденциальности

В пятницу Мередит Уиттакер, занимающая пост президента Signal, выразила обеспокоенность по поводу того, что агентский ИИ может поставить под угрозу конфиденциальность пользователей.

Во время своего выступления на конференции SXSW в Остине, штат Техас, эксперт по защите информации выразила обеспокоенность по поводу использования ИИ-агентов. Она сравнила этот процесс с «помещением вашего мозга в банку», подчеркнув, что новая парадигма вычислений, при которой ИИ выполняет задачи от имени пользователей, может привести к серьёзным проблемам с конфиденциальностью и безопасностью.

Уиттакер объяснила, что ИИ-агенты позиционируются как способ повысить ценность вашей жизни, выполняя различные онлайн-задачи за вас. Например, агенты могут выполнять такие задачи, как поиск концертов, бронирование билетов, планирование мероприятия в вашем календаре и отправка сообщений вашим друзьям о том, что билеты забронированы.

«Значит, мы можем просто поместить наш мозг в банку, потому что он сам это делает, и нам не нужно его трогать, верно?» — размышлял Уиттакер.

Затем она объяснила, какой доступ нужен ИИ-агенту для выполнения этих задач, в том числе доступ к нашему веб-браузеру и возможность управлять им, а также доступ к информации о нашей кредитной карте для оплаты билетов, к нашему календарю и приложению для обмена сообщениями, чтобы отправлять сообщения вашим друзьям.

«Необходимо было бы иметь возможность активировать этот процесс в нашей системе, предоставив пользователю права администратора. Это позволило бы получить доступ ко всем базам данных, возможно, в открытом виде, так как не существует модели для шифрования доступа», — отметила Уиттакер. «Если речь идёт о достаточно мощной модели ИИ, то её использование на одном устройстве невозможно,