Sakana AI представили open-source фреймворк для научных открытий

Sakana AI сделала шаг, который может перевернуть представления о том, как ИИ помогает в научных открытиях. Компания представила ShinkaEvolve — новый open-source фреймворк, основанный на LLM, который во многих задачах оказывается на порядки эффективнее традиционных эволюционных систем. Если классические алгоритмы действуют как brute-force и требуют тысячи выборок, то ShinkaEvolve справляется всего за сотни итераций.

Название говорит само за себя: shinka в переводе с японского означает эволюция. Разработчики вдохновились принципами природы, где развитие строится не на бесконечном переборе, а на комбинации отбора и адаптации. В результате фреймворк показывает впечатляющие результаты. Например, в классической задаче упаковки кругов, где нужно расположить их так, чтобы они не перекрывались и максимально эффективно занимали пространство, ShinkaEvolve сумел найти новое SOTA-решение всего за 150 выборок — там, где другим методам требовались тысячи.

Важнее всего — реальные применения. В области математических задач AIME система сгенерировала новые агентные шаблоны (scaffolds), которые превзошли существующие подходы. В соревновательном программировании на ALE-Bench она смогла улучшить готовые решения и поднялась с 5-го на 2-е место в рейтинге. А в обучении LLM ShinkaEvolve открыла новую функцию потерь для MoE-моделей, позволив экспертам лучше специализироваться и снизив perplexity.

Секрет эффективности кроется в нескольких инновациях. Во-первых, это умный отбор родителей, где сбалансирован поиск новых идей и доработка старых. Во-вторых, фильтрация по новизне — система автоматически отсеивает повторные варианты, экономя вычислительные ресурсы. И, наконец, ансамбль из нескольких LLM. Специальный bandit-алгоритм в реальном времени