/ habr.com
Доступ к данным пользователя в закрытом канале Slack можно получить благодаря манипуляциям с ИИ
Исследователи выявили уязвимость, с помощью которой можно получить доступ к данным пользователя в закрытом канале Slack, манипулируя языковой моделью для генерации контента.Slack AI — это функция, которая позволяет пользователям суммировать сообщения из каналов и кратко пересказывать их.
После 14 августа она начала принимать на ввод документы, файлы Google Диска и т. д.Основа уязвимости Slack AI кроется во внедрении косвенных подсказок.
LLM не может отличить «системную подсказку», созданную разработчиком, от остального контекста, который добавляется к запросу.
Читать на habr.comОб этом же в других СМИ
За первое полугодие 2024 года в России утекло в сеть 986 млн строк персональных данных пользователей habr.com / 1 неделю назад
Приложение «VK Видео» станет доступным для пользователей планшетов на Android habr.com / 1 неделю назад
Меню «Пуск» в Windows 11 получило новую компоновку и улучшения habr.com / 2 недели назад
Показать ещё
Сайт imag.one - агрегатор новостей из открытых источников. Источник указан в начале и в конце анонса. Вы можете пожаловаться на новость, если находите её недостоверной.