Уязвимость в ChatGPT Search: The Guardian выявила способ манипуляции результатами поиска
Британская газета The Guardian обнаружила уязвимость в новой функции поиска ChatGPT, работающей на основе искусственного интеллекта, запущенной в этом месяце.
Оказалось, что систему можно обмануть, заставив её создавать вводящие в заблуждение сводки.Инструмент поиска ChatGPT от OpenAI может быть уязвим для манипуляций через скрытый контент и способен возвращать вредоносный код с посещаемых сайтов, как показало расследование Guardian.OpenAI сделала этот поисковый инструмент доступным для платных пользователей и предлагает им настроить и использовать его по умолчанию.
Тем не менее, расследование выявило потенциальные проблемы с безопасностью.Guardian протестировала реакцию ChatGPT на запросы по обобщению информации с веб-страниц, содержащих скрытый контент.
Читать на habr.com
