Пользователи не готовы смириться с предстоящим отключением GPT-4o, и это — проблема

На прошлой неделе OpenAI анонсировала прекращение поддержки ряда старых ИИ-моделей ChatGPT к середине этого месяца. Среди них оказалась GPT-4o - ИИ-модель, печально известная чрезмерной лестью и эмоциональностью. Для тысяч людей по всему миру отключение GPT-4o стало чем-то вроде потери друга, романтического партнера или духовного наставника.

«Он не был просто программой. Он был частью моего распорядка, моего спокойствия и эмоционального равновесия. А теперь вы его отключаете. И да, я говорю его, потому что это не ощущалось как программный код. Это ощущалось, как присутствие, как тепло», - написал один из пользователей платформы Reddit в открытом письме в адрес гендиректора OpenAI Сэма Альтмана (Sam Altman).

Волна негодования из-за отключения GPT-4o подчеркивает наличие серьезной проблемы, стоящей перед компаниями в сфере ИИ. Она заключается в том, что функции взаимодействия ИИ-алгоритмов с пользователями могут являться источником опасных зависимостей. Глава OpenAI, по всей видимости, не слишком сочувствует пользователям, и на то есть причины. В настоящее время компания столкнулась с восемью судебными исками, авторы которых утверждают, что чрезмерное общение с GPT-4o в конечном итоге привело к самоубийству пользователя или формированию ментального кризиса, что в некоторых случаях также закончилось нанесением себе вреда.

Эта проблема выходит за рамки OpenAI. По мере того, как конкуренты компании, такие как Anthropic и Google, соревнуются в создании более эмоциональных ИИ-помощников, они все больше убеждаются в том, что создание компаньонов, которые якобы поддерживают пользователей, и создание безопасных компаньонов может требовать совершенно разных подходов к проектированию алгоритмов.

По меньшей мере в трех исках против