$555 тыс. за безопасность AGI: OpenAI нанял эксперта из Anthropic

OpenAI назначил Дилана Скандинаро на должность Head of Preparedness — руководителя направления, отвечающего за оценку рисков и безопасность передовых моделей. Базовая зарплата позиции — до $555 тыс. в год плюс акции. До перехода Скандинаро занимался безопасностью AGI в Anthropic, а ранее работал в Google DeepMind.

"Скоро все будет двигаться очень быстро, и мы будем работать с экстремально мощными моделями. Это потребует соразмерных мер безопасности. Дилан — лучший кандидат на эту роль из всех, кого я встречал" — Сэм Альтман

Сам Скандинаро написал, что осознает масштаб задачи: "ИИ развивается стремительно. Потенциальные выгоды велики — как и риски экстремального и даже невосстановимого вреда. Работы много, а времени мало".

Переход выглядит символично: Anthropic в 2021 году основали бывшие сотрудники OpenAI — Дарио и Даниэла Амодеи — именно из-за разногласий по поводу приоритетов безопасности. С тех пор Anthropic позиционирует себя как наиболее осторожную из крупных ИИ-лабораторий. Теперь специалист по безопасности совершает обратный путь.

Позиция Head of Preparedness создана в 2023 году и пережила несколько смен руководства. Предыдущий глава Александер Мадри был переведен на другую роль менее чем через год, его преемники также не задержались — должность приобрела репутацию "горячего кресла". Недавно OpenAI предупредила, что ее модели стремительно наращивают киберспособности и следующие версии могут впервые достичь "высокого" уровня риска по внутренней шкале компании — Скандинаро предстоит работать именно с такими системами.

P.S. Поддержать меня можно подпиской на канал "сбежавшая нейросеть", где я рассказываю про ИИ с творческой стороны.