Создатель Signal разработал ИИ-ассистента для сокрытия данных от операторов и правоохранителей

Создатель мессенджера Signal Мокси Марлинспайк стремится аналогичным образом революционизировать чат-боты, добавив слой анонимности. Он разрабатывает ИИ-помощника Confer с открытым исходным кодом, который гарантирует, что данные пользователей будут недоступными для оператора платформы, хакеров, правоохранительных органов или любой другой стороны, кроме самих владельцев учётных записей. 

Сервис, включая его большие языковые модели и компоненты бэкэнда, полностью работает на программном обеспечении с открытым исходным кодом, наличие которого пользователи могут криптографически проверить. Данные и разговоры, исходящие от пользователей, а также ответы от языковых моделей шифруются в доверенной среде выполнения (TEE), которая предотвращает даже просмотр или изменение данных администраторами серверов. Разговоры хранятся Confer в том же зашифрованном виде с использованием ключа на устройствах пользователей.

Как и Signal, Confer отличается простотой в своей внутренней структуре и дизайне. 

В настоящее время все основные ИИ-платформы обязали передавать данные пользователей правоохранительным органам или частным лицам в рамках судебного разбирательства. Даже если пользователи отказываются от долгосрочного хранения своих данных, информацию может хранить сам разработчик ИИ. Так, в мае прошлого года суд обязал OpenAI сохранять все журналы пользователей ChatGPT, включая удалённые и конфиденциальные чаты, зарегистрированные через API-сервис.

Эксперт по защите данных с псевдонимом Эм назвала ИИ-помощников «заклятым врагом» защиты данных, поскольку их полезность основана на сборе огромных объёмов данных из множества источников, включая отдельных лиц.

«Модели ИИ по своей природе являются сборщиками данных. Они полагаются на сбор больших