Ученые раскрыли тайну ИИ: у него нет никаких "суперспособностей" и "самосознания"

Исследователи утверждают, что разработчики нейросетей слишком хвастают "саморазвитием" ИИ, но на самом деле просто задают неправильные параметры. В новой статье ученые из Стэнфорда утверждают, что они доказали, что так называемые "возникающие сверхспособности" в моделях искусственного интеллекта является заведомо неправильной интерпретацией полученных результатов, пишет Vice. Тот момент, когда искусственный интеллект внезапно проявляет способность, которой он якобы не обладал, — на самом деле являются "миражом", созданным самими исследователями, которые заведомо или по ошибке неправильно интерпретировали результаты оценивающих метрик для ИИ.

Многие лидеры рынка ИИ, такие как Google или Microsoft, раскручивают информацию о том, что Bard или ChatGPT "внезапно стали демонстрировать знания, которыми не обладали" или "проявили проблески самосознания". За эти высказывания цепляются СМИ. Например, в популярной программе на американском телевидении утверждалось, что чат-бот Bard смог перевести бенгальский язык, хотя он не был обучен этому.

Все это способствует распространению фейков и даже нагнетает панику, так как некоторые люди начинают думать, что ИИ скоро получит самосознание и выйдет из-под контроля, начнет сам себя реплицировать и обслуживать. Поклонники теорий заговора в восторге говорят о приближающейся эре Скайнет. Но на самом деле, по мнению ученых, все куда проще.

Разработчики нейросетей и прочих чат-ботов неправильно (возможно намеренно, для рекламы) выбирают метрику для анализа полученных от ИИ данных. Исследователи обнаружили, что когда они меняли метрику своих выходных данных с нелинейной на линейную, прогресс модели казался предсказуемым и наоборот. Например, если бейсболистов оценивать по их способности бить по