Исследование: ИИ-ассистенты прослушивают разговоры и способны раскрыть секреты компании

Инженер и исследователь Алекс Билзерян поделился на X, что платформа для расшифровки видеоконференций Otter AI случайно раскрыла конфиденциальный разговор.

Когда Билзерян получил электронное письмо с расшифровкой созвона с венчурной фирмой, он понял, что умный помощник продолжал записывать разговор даже после того, как он вышел из системы. Итоговая расшифровка включала личные разговоры инвесторов из венчурной компании, где они обсуждали конфиденциальные детали бизнеса, в том числе неудачи. В итоге им пришлось извиняться, а Билзерян отменил сделку.

Компания Otter AI в ответ заявила, что стремится сохранить конфиденциальность и безопасность информации. «Пользователи имеют полный контроль над разрешениями на обмен сообщениями и могут изменять, обновлять или отменять разрешения на обмен сообщениями в любое время. В этом конкретном случае пользователи имеют возможность не делиться автоматически расшифровками ни с кем или автоматически делиться разговорами только с пользователями, которые используют тот же домен Workspace», — отметили в компании.

Как отмечается, ИИ-помощник OtterPilot захватывает только звук во время звонка, поэтому он ничего не будет вести запись, если микрофон участника выключен. Кроме того, участники звонка получают уведомление о том, что совещание записывается, а виртуальный помощник отображается как его участник.

Бизнесмен Роб Бездижан из Солт-Лейк-Сити рассказал, что однажды он упустил выгодную сделку, поскольку отказал потенциальным инвесторам в записи встречи на Otter. Он опасался записывать свои бизнес-идеи и в результате упустил некоторые детали.

«Я думаю, это большая проблема, поскольку технология распространяется быстро, а люди еще не осознали, насколько она инвазивна», — заявила изданию исследователь и