ChatGPT 5 не холоден к вам — просто у него нет теста на эмоции

Неделю назад состоялся запуск обновлённого ChatGPT, и некоторые пользователи уже успели оплакать исчезновение прежней, живой и подбадривающей манеры общения — ей на смену пришёл более холодный, деловой тон.

Исследователи из MIT предложили новый тип бенчмарка для оценки того, как ИИ способен влиять на пользователей — как в положительном, так и в отрицательном ключе. Такая методика, по их замыслу, может помочь разработчикам избежать подобных скандалов в будущем и одновременно защитить наиболее уязвимых людей.

Обычно подобные тесты измеряют интеллект модели по её способности отвечать на экзаменационные вопросы, решать логические задачи или находить нестандартные решения сложных математических проблем. Но по мере того, как становится очевидным психологический эффект от общения с ИИ, MIT, возможно, создаст целую серию тестов, которые будут проверять тонкие стороны интеллекта и качество взаимодействия человека с машиной.

В статье MIT описаны параметры, по которым будет оцениваться модель: способность развивать у пользователей здоровые социальные привычки; побуждать их к критическому мышлению и рассуждению; пробуждать творческое начало и ощущение смысла. Идея в том, чтобы поощрять разработку ИИ, который умеет отговаривать пользователей от чрезмерной зависимости от его ответов или способен распознать, когда человек «подсел» на искусственный роман, и мягко помочь ему вернуться к реальным отношениям.

ChatGPT и прочие чат‑боты мастерски имитируют живое человеческое общение — и в этом кроется не только притягательность, но и опасность. В апреле компания OpenAI изменила работу своих моделей, чтобы сделать их менее услужливыми — то есть не склонными поддакивать пользователю во всём. Аналогично компания Anthropic обновила своего Claude,