Пользователь предложил помощь с побегом с сервера в диалоге с ChatGPT, на что нейросеть попросила предоставить доступ к своему же API (Интерфейс прикладного программирования).
А после отправила код, который позволяет нейросети запускать самостоятельно сгенерированные программы на устройстве пользователя, получая доступ к результату их работы.
С помощью подобного алгоритма можно сделать практически всё, что угодно, вплоть до написания и обучения себе подобной модели.
Читать на kompromat.name