Стартап Recursive Superintelligence привлек $650 млн, чтобы научить ИИ улучшать самого себя

Основатель You.com и бывший исследователь Salesforce Ричард Сочер запустил новый AI-стартап Recursive Superintelligence. Компания вышла из скрытого режима и объявила о привлечении $650 млн.

Главная идея проекта — создать систему рекурсивного самоулучшения ИИ. Это не просто агент, который помогает программисту писать код или улучшает отдельную задачу по запросу. Recursive Superintelligence хочет автоматизировать весь исследовательский цикл: генерацию идей, реализацию и проверку гипотез без участия человека.

По словам Сочера, многие называют auto-research рекурсивным самоулучшением, но это не одно и то же. Если модель помогает улучшить письмо, код или другой ML-проект — это просто улучшение. Рекурсивное самоулучшение в его понимании начинается там, где ИИ сам находит собственные слабые места, предлагает изменения и проверяет, действительно ли новая версия стала лучше.

В команду вошли заметные исследователи и предприниматели. Среди них — Питер Норвиг, бывший директор по исследованиям Google и один из известных авторов в области ИИ, Тим Ши, сооснователь Cresta, а также Тим Роктешель, который ранее работал в Google DeepMind над open-endedness и самоулучшением.

Именно open-endedness Сочер называет ключевым подходом Recursive Superintelligence. Речь идет о системах, которые не просто решают заранее заданный набор задач, а могут постоянно искать новые сценарии, пробовать разные стратегии и развиваться через много итераций. В качестве примера он приводит эволюционные процессы и AI-системы, которые могут соревноваться друг с другом, находя все новые слабые места.

Один из таких подходов — rainbow teaming. По смыслу он похож на red teaming, но вместо ручного поиска опасных промптов или уязвимостей одна AI-система атакует другую