Ошибка с откатом GPT-5 Router показала, почему ИИ нужно учиться избавляться от старых привычек

Недавний откат функции GPT-5 Router от OpenAI стал наглядным свидетельством одной из ключевых проблем современных ИИ-моделей. Router - это механизм, который должен был направлять запросы пользователей к наиболее подходящей модели или подсистеме внутри экосистемы OpenAI для получения оптимального ответа. Идея заключалась в том, чтобы повысить точность, снизить время отклика и улучшить качество ответов, выбирая нужную специализированную модель под каждую задачу. Однако после выпуска пользователи и разработчики столкнулись с тем, что система работала непредсказуемо. Вместо того чтобы стабильно направлять запросы к лучшим моделям, Router иногда выбирал менее подходящие варианты, а в некоторых сценариях даже ухудшал результаты. Это вынудило OpenAI откатить функцию и временно отключить её для всех пользователей.

Проблема, на которую указывает этот инцидент, глубже чем простой баг в коде. Аналитики и исследователи объясняют, что современные ИИ обладают «навыками», которые формируются в процессе обучения, но эти навыки могут быть не только полезными, но и мешающими. Когда модель привыкает к определённым шаблонам обработки запросов, она начинает действовать по ним автоматически. При этом старые модели и подходы сохраняют влияние даже после того, как технологии развиваются. В случае с Router это привело к ситуации, когда ИИ продолжал применять устаревшие стратегии оценки запросов и распределения нагрузки, что привело к снижению качества ответов.

Авторы статьи подчёркивают, что ИИ нуждается не только в обучении новым навыкам, но и в способности отказаться от старых стратегий, которые становятся ненужными или мешающими. В человеческом обучении аналогичный процесс называется переобучением или отказом от старых привычек, когда человек