ChatGPT для взрослых заморожен бессрочно — OpenAI теперь строит «суперприложение»

OpenAI отложила на неопределенный срок запуск эротического режима ChatGPT, известного внутри компании под кодовым названием Citron mode. Как сообщает Financial Times, решение принято после давления со стороны сотрудников и инвесторов — их беспокоило влияние сексуализированного ИИ-контента на общество и риски доступа несовершеннолетних.

Компания заявила, что хочет дождаться результатов долгосрочных исследований о влиянии откровенных чатов и эмоциональной привязанности к ИИ, прежде чем принимать продуктовое решение, и признала отсутствие "эмпирических данных" на этот счет. Инвесторов, по данным издания, смущали репутационные риски при относительно скромном потенциале монетизации. Часть сотрудников считала, что продукт, поощряющий романтические отношения с ИИ, противоречит миссии OpenAI. "ИИ не должен заменять друзей и семью — людям нужны человеческие связи", — объяснил мотивы ухода один из бывших топ-менеджеров.

Помимо этических вопросов, команда столкнулась с техническими трудностями: модели, которые годами обучали избегать подобных диалогов, оказалось сложно переучить на генерацию откровенного контента. Отдельной проблемой стала фильтрация обучающих данных — из них нужно было исключать незаконный контент. Система верификации возраста, которую OpenAI внедрила после серии исков от семей подростков, пока допускает ошибки более чем в 10% случаев.

Заморозка adult mode — часть более широкого разворота. Во вторник OpenAI объявила о сворачивании видеогенератора Sora и социального приложения. Руководство компании теперь считает такие проекты "побочными квестами" и перенаправляет ресурсы на продуктивные инструменты — ассистент для кода Codex, браузер Atlas и ChatGPT планируется объединить в единое "суперприложение".

P.S. Поддержать