Slack уличили в сборе данных клиентов для обучения своих ИИ-инструментов

Руководитель Duckbill Group Кори Куинн написал в Х, что корпоративный мессенджер Slack использует пользовательские данные для обучения моделей ИИ, не спрашивая на это разрешения.

Куинн сослался на выдержку из Принципов конфиденциальности мессенджера, которая гласит: «Для разработки моделей AI/ML наши системы анализируют данные клиентов (например, сообщения, контент и файлы), отправленные в Slack, а также другую информацию (включая информацию об использовании), как определено в нашей Политике конфиденциальности и в вашем клиентском соглашении».

В мессенджере отреагировали на это сообщение, подтвердив, что действительно используют контент клиентов для обучения определённых инструментов искусственного интеллекта в приложении. Однако там отметили, что эти данные не применяются в премиальном предложении. 

Некоторые пользователи возмутились тем, что Slack не показывает заметного уведомления, позволяющего отказаться от участия до начала сбора данных.

Кроме того, отдельные сотрудники не могут сделать этого самостоятельно; им требуется направить запрос администратору систем организации.

В числе тех, кто отреагировал на критику Slack, была и Мередит Уиттакер, президент Signal. Она написала, что конфиденциальный мессенджер «вообще не собирает данные, поэтому ему нечего “майнить” для "ИИ"». 

Проблема возникла из-за непоследовательности в политике Slack. В одном разделе говорится, что компания не может получить доступ к основному контенту пользователей при разработке моделей ИИ. На другой странице, посвященной премиальным инструментам генеративного искусственного интеллекта Slack, написано: «Ваши данные — это ваши данные. Мы не используем их для обучения искусственного интеллекта Slack. Все работает на безопасной инфраструктуре, отвечая