Разработчики чат-бота ChatGPT создали команду для контроля над сверхумным искусственным интеллектом

Компания OpenAI, создатели чат-бота ChatGPT, объявила о создании специальной команды, которая займётся управлением рисками, связанными с вероятным появлением сверхумного искусственного интеллекта. Под таким термином корпорация имеет в виду гипотетическую модель ИИ, превосходящую умом самых одарённых и умных людей на Земле, а также способную добиться успехов в нескольких областях знаний.

В OpenAI отмечают, что потенциальный сверхумный ИИ наверняка поможет решить большинство проблем на планете, однако его появление содержит в себе невероятные риски, включая полное вымирание человечества. Именно поэтому компания создала команду, которую возглавили ученые Илья Суцкевер и Ян Лейке.

Они получат отдельное финансирование и примерно 20% текущей вычислительной мощности OpenAI на эксперименты и создание инициативы, которая будет отслеживать развитие искусственного интеллекта. Конечная цель авторов — убедиться в том, что ИИ не угрожает человеку и никогда не станет его врагом.

Сейчас OpenAI набирает людей, готовых посвятить годы на контроль за искусственным интеллектом. В первую очередь компанию интересуют разработчики, которые работали с машинным обучением.