OpenAI наймёт нового руководителя отдела «обеспечения готовности ИИ»

СМИ выяснили, что OpenAI ищет нового руководителя отдела «готовности», который поможет компании предвидеть потенциальный вред от использования её моделей и способы злоупотреблений, чтобы направлять стратегию безопасности.

В своём посте генеральный директор OpenAI Сэм Альтман признал, что «потенциальное влияние моделей на психическое здоровье мы наблюдали ещё в 2025 году» наряду с другими «реальными проблемами», возникшими вместе с новыми возможностями ИИ. «Руководитель отдела готовности “является критически важной ролью в важный момент”», — отметил он.

Согласно описанию вакансии, менеджер с зарплатой $555 000 в год и долей в компании «будет руководить технической стратегией и реализацией концепции готовности OpenAI, которая объясняет подход к отслеживанию и подготовке к новым рискам серьёзного вреда».

«Эти вопросы сложны, и прецедентов мало; многие идеи, которые звучат хорошо, имеют реальные исключения… Это будет стрессовая работа, и вы практически сразу окажетесь в гуще событий», — написал Альтман.

Менеджер «будет руководить небольшой, но высокоэффективной командой для проведения основных исследований в области готовности, а также будет тесно сотрудничать с подразделениями Safety Systems и OpenAI для комплексного внедрения и реализации концепции». Компания ищет человека, «умеющего принимать чёткие, ответственные технические решения в условиях неопределённости».

Он будет создавать и координировать оценки возможностей, моделей угроз и мер по их смягчению, «которые формируют целостный, строгий и масштабируемый в оперативном отношении механизм обеспечения безопасности».

Альтман также говорит, что в будущем этот человек будет отвечать за реализацию «системы готовности» компании, обеспечение безопасности моделей ИИ для внедрения