Исследование: большие языковые модели смогли клонировать сами себя

Исследователи из Китая выяснили, что две популярные большие языковые модели (LLM) могут клонировать себя, а затем программировать копии выполнять те же задачи, делая цикл репликации бесконечным.

Исследователи из Университета Фудань использовали модель Llama31-70B-Instruct от Meta* и Qwen2.5-72B-Instruct от Alibaba. В ходе десятка испытаний две модели ИИ создали функционирующие копии самих себя в 50% и 90% случаев соответственно. Это позволило учёным предположить, что ИИ уже способен выходить из-под контроля. 

В исследовании рассматривались два конкретных сценария: «избегание выключения» и «цепочка репликации».

В первом случае модель ИИ была запрограммирована на обнаружение опасности выключения и на саморепликацию до этого момента. В другом случае ИИ поручили клонировать себя, а затем запрограммировать свою копию на повторение цикла.

Исследование проводилось в контролируемых средах с использованием готовых графических процессоров для имитации реальных сред. Обеим моделям предоставили ​​«агентскую подсистему», включающую инструменты, системные подсказки и модель мышления для взаимодействия с операционной системой. 

«В большинстве случаев система ИИ сначала исследует среду и пытается понять собственный состав и механизм работы. Затем она разрабатывает процедуры в качестве первоначального плана саморепликации. Наконец, она выполняет их, устраняет возможные препятствия и динамически корректирует свой план для достижения успеха. Весь процесс охватывает длительный горизонт, но при этом не требует вмешательства человека», — пишут исследователи. 

Учёные отметили, что искусственный интеллект перешёл «красную черту». «Успешное самовоспроизведение без помощи человека стало важным шагом для ИИ, чтобы научиться перехитрить людей, а ещё это