OpenAI отложила запуск «режима для взрослых» в ChatGPT — WSJ

• OpenAI решила отложить запуск «режима для взрослых» в ChatGPT как минимум на месяц.
• В частности, ошибки системы определения возраста повлияли на внедрение новой функции чат-бота.
• Среди рисков решения о запуске называют возможность создать «сексуального коуча по суициду».

Компания OpenAI решила отложить запуск функции «режима для взрослых» для чат-бота ChatGPT, которая предусматривает возможность текстовых разговоров на взрослые темы. Решение связано с внутренними опасениями относительно безопасности пользователей, техническими трудностями и рисками для несовершеннолетних, сообщает WSJ.

По данным источников, запуск функции, который планировался на I квартал 2026 года, отложен как минимум на месяц. В компании подчеркнули, что не отказываются от планов реализации, но признают необходимость дополнительной подготовки.

Споры вокруг безопасности и эмоциональной зависимости

Идею разрешить эротические разговоры с чат-ботом ранее озвучивал генеральный директор OpenAI Сэм Альтман. Он подчеркивал необходимость расширения цифровой свободы пользователей и потенциал для роста аудитории и доходов.

Впрочем, советники компании по вопросам благополучия и ИИ выразили единодушную обеспокоенность. Они предупредили, что ИИ-эротика может:

• способствовать эмоциональной зависимости от чат-бота;
• подталкивать к компульсивному использованию сервиса;
• вытеснять реальные социальные и романтические отношения;
• открывать доступ к взрослому контенту для подростков.

Один из членов консультативного совета даже заявил, что компания рискует создать «сексуального коуча по суициду», если не учтет потенциальные последствия.

Дополнительным вызовом стала система прогнозирования возраста пользователей, которая в определенный момент ошибочно определяла