«Не спешите целиком и полностью доверять новому агенту ChatGPT», — предупреждает Альтман

Генеральный директор OpenAI Сэм Альтман предупреждает пользователей, чтобы они не слишком полагались на нового агента ChatGPT, особенно когда речь идёт о задачах, связанных с конфиденциальными или личными данными.

Агент ChatGPT — это первая система OpenAI, созданная для автономного выполнения многоэтапных задач. По словам Альтмана, агент может разбивать запросы на более мелкие этапы, использовать внешние инструменты и выполнять действия самостоятельно, выходя за рамки более ранних продуктов, таких как Deep Research и Operator.

Но Альтман говорит, что пользователям не стоит думать, что эта технология безопасна во всём. Даже несмотря на «множество мер предосторожности и предупреждений», по его словам, всё равно остаются риски, которые невозможно предсказать. Он особенно не рекомендует использовать этого агента для важных задач или чего-то, что связанно с большим объёмом личной информации.

Альтман обращает внимание на риск, связанный с предоставлением агенту ИИ широких полномочий, таких как доступ к учётной записи электронной почты, без контроля. Например, если вы поручите агенту обрабатывать ваши электронные письма и выполнять все необходимые действия, злоумышленники могут обманом заставить его раскрыть конфиденциальные данные или сделать что-то, чего он делать не должен.

Исследователи неоднократно доказывали, что агентами ИИ можно манипулировать с помощью относительно простых подсказок, что иногда приводит к раскрытию личной информации или нежелательным действиям.

«Мы не можем предсказать все последствия, но злоумышленники могут попытаться "обмануть" ИИ-агента, вынудив его раскрыть конфиденциальные данные или совершить нежелательные действия. Чтобы минимизировать риски для безопасности и конфиденциальности, мы рекомендуем