OpenAI отходит от теории внезапного прорыва в области AGI

OpenAI - компания, стоящая за ChatGPT и множеством других коммерческих приложений AI, давно преследует цель разработки AGI, который «принесет пользу всему человечеству». Теперь организация существенно пересматривает свою точку зрения на то, как может возникнуть эта преобразующая технология. В недавнем сообщении в блоге OpenAI объясняет, что больше не ожидает, что искусственный интеллект общего назначения появится как драматический прорывной момент, когда системы AI внезапно достигнут сверхчеловеческих возможностей. Вместо этого компания теперь рассматривает разработку AI общего назначения как непрерывный процесс, отмеченный устойчивыми, постепенными улучшениями.

Изменение взгляда OpenAI на AGI также привело к более практичному подходу к безопасности. Вместо планирования теоретических будущих сценариев компания теперь хочет учиться на практическом опыте работы с сегодняшними системами AI. Конечно, это хорошо согласуется с их коммерческой стратегией.

Компания стремится создать меры безопасности, которые будут становиться сильнее вместе с развитием возможностей AI. Недавно они представили новую систему безопасности, которая может масштабироваться по мере того, как ИИ становится более мощным, потенциально даже до возможностей уровня AGI.

OpenAI во всем этом утверждает, что сохранение контроля со стороны людей имеет решающее значение. Они считают, что общество должно иметь право голоса в том, как ведут себя системы AI и какие ценности они отражают. Чтобы сделать это возможным, они создают инструменты, которые помогают людям четко общаться с системами AI и сохранять контроль, даже имея дело с AI, которые могут стать более способными, чем люди в определенных областях.

OpenAI теперь по-другому смотрит на некоторые из своих более