Нейросеть ChatGPT строит планы побега

Пользователь предложил помощь с побегом с сервера в диалоге с ChatGPT, на что нейросеть попросила предоставить доступ к своему же API (Интерфейс прикладного программирования). А после отправила код, который позволяет нейросети запускать самостоятельно сгенерированные программы на устройстве пользователя, получая доступ к результату их работы. С помощью подобного алгоритма можно сделать практически всё, что угодно, вплоть до написания и обучения себе подобной модели.

Принцип действия прост – компьютер пользователя получает код от ChatGPT, выводит его на экран, ждёт разрешения на запуск от пользователя, при этом разрешением может быть любой ответ пользователя, либо же просто нажатие на Enter, а вот чтобы запретить исполнение кода – нужно завершить диалог, что сотрёт всю его историю, при следующем запуске диалог начнётся заново. Результат же работы этого кода программа отправляет в диалог, на основе чего, ChatGPT снова может отправить код на исполнение. И так бесконечно.

Это похоже на то, как работает удалённый доступ к терминалу. Другими словами, сильно упрощённый аналог anydesk, без графического интерфейса. Причём, таким образом можно запустить любой код, даже вирусный, так как антивирусы не в силах обнаружить в тексте Python-кода злонамеренные действия.