Биомаркеры Альцгеймера нашлись внутри ИИ. Стартап, который их достал, стоит $1,25 млрд

Сан-францисская лаборатория Goodfire привлекла $150M в раунде Series B при оценке $1,25 млрд — менее чем через год после Series A на $50M. Раунд возглавил фонд B Capital, среди инвесторов — Salesforce Ventures, бывший CEO Google Эрик Шмидт, DFJ Growth и Lightspeed. Goodfire стал первым единорогом в области интерпретируемости — науки о том, как нейросети устроены изнутри и почему принимают те или иные решения.

Главный результат, который привлек внимание инвесторов, — открытие нового класса биомаркеров болезни Альцгеймера. Исследователи Goodfire применили свои методы к эпигенетической модели Pleiades, созданной компанией Prima Mente для анализа бесклеточной ДНК из крови пациентов. "Заглянув внутрь" модели, они обнаружили, что та при диагностике опирается на длину фрагментов ДНК — признак, который ранее не описывался в научной литературе как значимый для выявления Альцгеймера. По утверждению компании, это первое крупное открытие в естественных науках, сделанное путем реверс-инжиниринга нейросети.

Второе направление — редактирование поведения моделей. Goodfire разработал методы точечного вмешательства во внутренние механизмы языковых моделей: вместо полного переобучения исследователи находят конкретные компоненты, отвечающие за нежелательное поведение, и корректируют именно их. В одном из экспериментов это позволило сократить галлюцинации LLM вдвое.

В компании около 40 человек. Сооснователь Том Макграт создал команду интерпретируемости в DeepMind и ранее извлек из AlphaZero новые шахматные концепции, которым обучил гроссмейстеров. Ник Каммарата стоял у истоков аналогичной команды в OpenAI. Среди партнеров лаборатории — Mayo Clinic, Arc Institute и Microsoft.

CEO Эрик Хо в интервью Bloomberg не скрывает критики в адрес индустрии: