Режим «гоблина»: почему OpenAI запретила ChatGPT упоминать мифических существ?

• Компания зафиксировала резкий рост упоминаний «гоблинов» и «гремлинов».
• Проблема возникла после запуска модели GPT-5.1.
• Разработчики связали сбой с особенностями обучения «личности» ИИ.

Компания OpenAI вынуждена скорректировать поведение своих ИИ-моделей после неожиданного сбоя в работе ChatGPT. Пользователи и сотрудники заметили, что система начала чаще упоминать мифологических существ, включая гоблинов и гремлинов, даже в нерелевантных контекстах.

В официальном блоге OpenAI сообщили, что частота упоминания слова «гоблин» выросла примерно на 175% после запуска GPT-5.1, а «гремлин» — на 52%. Хотя такие вставки встречались редко, их рост стал заметным и вызвал внутреннее расследование.

Сбой в «личности» модели

Разработчики выяснили, что проблема связана с настройкой «характера» модели.

При обучении более дружелюбному и разговорному стилю система начала использовать образы вроде гоблинов и других существ как метафоры. Это привело к их чрезмерному появлению в ответах.

В результате OpenAI добавила прямые ограничения для своих инструментов, включая кодового ассистента Codex. В инструкциях указано избегать упоминаний гоблинов, гремлинов, енотов, троллей и других существ, если это не связано напрямую с запросом пользователя.

Компания подчеркнула, что это не маркетинговый ход, а попытка устранить побочный эффект обучения. По оценке разработчиков, около 66,7% упоминаний «гоблинов» были связаны именно с этим «личностным» режимом модели.

Инцидент стал примером более широкой проблемы в индустрии ИИ.

Речь идет о том, что стремление сделать чат-ботов более «живыми» может снижать точность и усиливать склонность к ошибкам. Эксперты отмечают, что подобные поведенческие сбои могут закрепляться в модели, если не контролировать процесс