Команду безопасности OpenAI возглавил человек, которого обвиняли в пренебрежении безопасностью

Драма внутри компании

Коротко напомним: специальное подразделение в составе OpenAI, названное Superalignment, существовало для того, чтобы контролировать процесс создания искусственного интеллекта, который становится все умнее и в перспективе должен дойти до стадии универсального ИИ, или AGI, который может выполнять работу лучше, чем люди, совмещая разные типы моделей в одной. Но после того, как компанию покинул главный научный сотрудник Илья Суцкевер, который был одним из ключевых членов Superalignment, вслед за ним разбежались и другие, в том числе и глава подразделения Ян Лейке.

Смотрите также Команда OpenAI, целью которой была защита человечества от ИИ, больше не существует

Теперь компания объявила о создании нового Комитета по безопасности и защите, который будет руководить критически важными решениями. Возглавил его сам генеральный директор OpenAI Сэм Альтман.

Это весьма странный шаг, учитывая потенциальный конфликт интересов. Суть команды Superalignment была в том, чтобы фактически выступать определенными оппонентами руководству компании, регулируя процессы, которые могли привести к опасным результатам. Но теперь и руководство, и команду контроля возглавляет один человек, к тому же тот, которого ранее обвиняли в пренебрежении вопросами безопасности.

К таким упрекам прибегал Илон Маск (один из соучредителей компании, который покинул ее по до сих пор невыясненным причинам) и Илья Суцкевер, который был главным создателем ChatGPT и все эти годы возглавлял отдел разработки. Когда в прошлом году Сэма Альтмана внезапно уволили с должности руководителя общим решением Совета директоров, СМИ публиковали ряд версий о причинах. Одной из главных было сообщение анонимных источников, согласно которому некоторые члены Совета