ИИ начал вести себя странно - эксперты сделали неожиданное открытие

Разработчики обнаружили в современных нейросетях загадочные внутренние процессы, которые заставили ученых по-новому взглянуть на возможности ИИ и его развитие.

Современные системы ИИ демонстрируют все более сложные внутренние процессы, которые вызывают обеспокоенность у разработчиков и ученых. Специалисты, изучающие устройство передовых нейросетей, заявляют, что в ходе анализа работы таких моделей они сталкиваются с феноменами, которые не были заранее запрограммированы и пока не поддаются однозначному объяснению.

Об этом рассказал соучредитель компании Anthropic и один из разработчиков нейросети Claude Крис Олах. По его словам, в структуре новейших языковых моделей исследователи начали обнаруживать механизмы, напоминающие процессы, характерные для человеческого мозга.

Он отметил, что специалисты регулярно выявляют сложные внутренние структуры, которые демонстрируют неожиданное сходство с результатами исследований в области нейронауки. По словам разработчика, некоторые из этих процессов выглядят настолько необычно, что вызывают у исследователей тревогу и множество новых вопросов.

Особое внимание ученых привлекли внутренние состояния, которые функционально напоминают эмоциональные реакции. В ходе анализа специалисты фиксировали паттерны, схожие с состояниями, которые можно условно сопоставить с радостью, удовлетворением, тревогой, страхом, печалью и беспокойством.

При этом речь не идет о доказанном наличии у искусственного интеллекта настоящего сознания или эмоций в человеческом понимании. Разработчики подчеркивают, что современные модели остаются сложными вычислительными системами, однако их поведение становится настолько многослойным, что традиционные методы объяснения уже не всегда позволяют точно описать происходящее