TravisMacrif Китай США технологии происшествия общество TravisMacrif Китай США
/ habr.com

OpenAI: киберугрозы легче обнаружить, когда злоумышленники используют ChatGPT

Киберугрозы проще обнаружить, если злоумышленники применяют ChatGPT. К такому необычному выводу пришли исследователи OpenAI.

По их словам, промпты для ChatGPT не только раскрывают, на какие платформы нацелены злоумышленники, но и позволяют раскрыть новые инструменты, которые используются для преступной деятельности в сети.OpenAI опубликовала свой 50-страничный отчёт на фоне повышенного внимания к её инструментам перед президентскими выборами в США.

Чиновники по всему миру опасаются, что злоумышленники будут применять искусственный интеллект для более широкого распространения дезинформации и пропаганды.Отчёт описывает 20 эпизодов, когда OpenAI прервала манипуляции с использованием ИИ для разжигания ненависти или взлома уязвимых систем.В компании пояснили, что подобные случаи позволяют OpenAI выявлять наиболее распространённые способы, с помощью которых злоумышленники применяют ИИ для повышения своей эффективности или производительности.В одном из эпизодов связанная с Китаем хакерская группировка SweetSpecter попыталась провести фишинговую кампанию против государственных служащих и сотрудников OpenAI, используя подсказки для ChatGPT.

Читать на habr.com
Сайт imag.one - агрегатор новостей из открытых источников. Источник указан в начале и в конце анонса. Вы можете пожаловаться на новость, если находите её недостоверной.

Сейчас читают

DMCA