OpenAI изменяет политику модерации контента ChatGPT при создании изображений

На этой неделе OpenAI запустил новый генератор изображений в ChatGPT, который быстро стал вирусным благодаря своей способности создавать изображения в стиле Studio Ghibli. Помимо пастельных иллюстраций, собственный генератор изображений GPT-4o значительно расширяет возможности ChatGPT, улучшая редактирование изображений, рендеринг текста и пространственное представление.

Однако одно из самых заметных изменений, внесенных OpenAI на этой неделе, касается политики модерации контента, которая теперь позволяет ChatGPT по запросу генерировать изображения, изображающие общественных деятелей, оскорбительные символы и расовые признаки.

Ранее OpenAI отвергала подобные подсказки, считая их слишком спорными или вредными. Но теперь компания эволюционировала свой подход, согласно сообщению в блоге, опубликованному в четверг руководителем, отвечающим за поведение моделей OpenAI Джоан Джанг.

«Мы переходим от отказов в деликатных областях к более точному подходу, ориентированному на предотвращение реального вреда», — сказал Джанг.

«Цель — принять смирение: признать, как много мы не знаем, и настроить себя на адаптацию по мере того, как мы учимся».

Эти корректировки, по-видимому, являются частью более масштабного плана OpenAI по эффективной «децензуре» ChatGPT. В феврале OpenAI объявила, что начинает менять способ обучения моделей AI, имея в виду, что конечная цель — позволить ChatGPT обрабатывать больше запросов, предлагать различные точки зрения и сокращать количество тем, с которыми чат-бот отказывается работать.

Согласно обновленной политике, ChatGPT теперь может генерировать и изменять изображения Дональда Трампа, Илона Маска и других публичных личностей, которые OpenAI раньше не разрешал. Джанг говорит, что OpenAI не хочет быть арбитром