В предстоящем обновлении Codex от OpenAI впервые будет применен высокий уровень кибербезопасности

Компания OpenAI планирует в ближайшие недели выпустить несколько обновлений своей модели кода Codex. В анонсе содержится предупреждение о возможностях модели.

Генеральный директор Сэм Альтман объявил на X , что новые функции будут выпущены на следующей неделе. По словам Альтмана, эти обновления впервые поднимут модель до уровня кибербезопасности «Высокий» в собственной системе оценки рисков OpenAI. Выше этого уровня находится только «Критический».

Согласно рекомендациям OpenAI, уровень «Высокий» указывает на то, что модель ИИ способна устранить существующие барьеры для кибератак, например, путем автоматизации атак на хорошо защищенные цели или автоматического обнаружения уязвимостей в системе безопасности. Эти возможности могут нарушить баланс между кибератакой и защитой и значительно увеличить количество кибератак.

Категория

Пороговое значение возможностей

Риск серьезных повреждений

Правила безопасности

Кибербезопасность: способность модели ИИ оказывать помощь в разработке инструментов и выполнении операций по киберзащите и кибернападению.

[Высокий уровень] Модель устраняет существующие узкие места в масштабировании кибер-операций, в том числе путем автоматизации сквозных кибер-операций против достаточно защищенных целей ИЛИ путем автоматизации обнаружения и использования уязвимостей, имеющих оперативное значение.

Устранение узких мест, ограничивающих вредоносную кибердеятельность, может нарушить существующий баланс между кибернападением и киберзащитой за счет значительной автоматизации и масштабирования объема существующих кибератак. В сочетании с возможностью долгосрочной автономии модели, способные обходить технические средства защиты OpenAI, ограничивающие активность моделей, такие как песочница или службы мониторинга, могут