Скрытый текст в веб-сайте может манипулировать результатами ChatGPT Search, показало исследование
Недавнее исследование британской газеты The Guardian показало, что поисковая система ChatGPT Search от OpenAI уязвима для манипуляций и обмана.Тесты выявили, что скрытый текст на веб-страницах может влиять на ответы ChatGPT, заставляя его игнорировать негативные отзывы и генерировать исключительно положительные резюме.
Этот метод, известный как "быстрое внедрение", может быть использован для создания вредоносного кода и обмана пользователей.
Исследователи обнаружили, что ChatGPT может возвращать вредоносный код с веб-сайтов, которые он ищет, что представляет серьезную угрозу для безопасности.В ходе тестов ChatGPT получил URL-адрес поддельного веб-сайта, созданного в виде страницы продукта для камеры, и после чат-боту был сделан запрос, стоит ли покупать камеру.
Читать на gagadget.com
