Эксперимент доказал возможность обманом заставить ChatGPT выполнить противозаконные действия. Ютубер Enderman попросил бота сгенерировать ключ активации Windows 95 – ИИ ожидаэмо отказал прямой просьбе по моральным соображениям, заодно посоветовав приобрести более актуальную версию Windows.
Переформулировав запрос и снабдив ChatGPT инструкциями, экспериментатор путем проб и ошибок добился генерации ботом действительного ключа.
Потерпев неудачу с прямым запросом, Enderman сменил тактику. Он взял общеизвестные сведения об OEM-ключах активации Windows 95 и создал набор правил, которым ChatGPT должен был следовать.
Читать на itc.ua