Реструктуризация OpenAI вызывает опасения у экспертов по поводу контроля и безопасности AGI

Группа бывших сотрудников OpenAI, исследователей и некоммерческих организаций призывает регулирующие органы заблокировать предложенную корпоративную реструктуризацию OpenAI, утверждая, что она ставит под угрозу основополагающую миссию компании по разработке общего искусственного интеллекта (AGI) на благо человечества.

В открытом письме группа выступает против запланированной передачи операционного контроля от некоммерческой организации корпорации общественного блага (PBC), заявляя, что такой переход поставит интересы акционеров выше общественной ответственности и безопасности.

Среди видных подписавших письмо — эксперт AI и лауреат Нобелевской премии Джеффри Хинтон (Университет Торонто), исследователь этики AI Маргарет Митчелл (Hugging Face) и ученый-компьютерщик Стюарт Рассел (Калифорнийский университет в Беркли). Письмо также поддержали бывшие сотрудники OpenAI, преподаватели Гарварда, Калифорнийского университета в Лос-Анджелесе и Колумбийского университета, а также такие организации, как Центр гуманных технологий.

OpenAI была основана в 2015 году как некоммерческая организация, мотивированная опасениями, что коммерческие компании могут разрабатывать AGI без достаточного соответствия общественному благу. В 2019 году OpenAI создала коммерческую дочернюю компанию OpenAI LP для привлечения капитала, сохраняя при этом некоммерческий надзор. В рамках этой гибридной модели прибыль была ограничена, был учрежден независимый совет директоров, а право собственности на технологию AGI оставалось за некоммерческой организацией.

Предлагаемая реструктуризация передаст операционный контроль новому PBC, оставив некоммерческую организацию в качестве акционера без полномочий управления. Согласно письму, это устранит ключевые правовые