OpenAI: киберугрозы легче обнаружить, когда злоумышленники используют ChatGPT
Киберугрозы проще обнаружить, если злоумышленники применяют ChatGPT. К такому необычному выводу пришли исследователи OpenAI.
По их словам, промпты для ChatGPT не только раскрывают, на какие платформы нацелены злоумышленники, но и позволяют раскрыть новые инструменты, которые используются для преступной деятельности в сети.OpenAI опубликовала свой 50-страничный отчёт на фоне повышенного внимания к её инструментам перед президентскими выборами в США.
Чиновники по всему миру опасаются, что злоумышленники будут применять искусственный интеллект для более широкого распространения дезинформации и пропаганды.Отчёт описывает 20 эпизодов, когда OpenAI прервала манипуляции с использованием ИИ для разжигания ненависти или взлома уязвимых систем.В компании пояснили, что подобные случаи позволяют OpenAI выявлять наиболее распространённые способы, с помощью которых злоумышленники применяют ИИ для повышения своей эффективности или производительности.В одном из эпизодов связанная с Китаем хакерская группировка SweetSpecter попыталась провести фишинговую кампанию против государственных служащих и сотрудников OpenAI, используя подсказки для ChatGPT.
Читать на habr.com
