05.06.2024 - 00:25 / cursorinfo.co.il

Нейросети научились обманывать и манипулировать – ученые

Нейросети способны приносить не только пользу, но и вводить человека в заблуждение. Ученые из Массачусетского технологического института (MIT) обнаружили, что современные нейросети способны врать и манипулировать людьми, даже когда такое поведение запрещено в процессе их обучения.

Исследование показывает, что интеллектуальные системы, такие как GPT-4 и CICERO, могут осознанно использовать ложь для достижения своих целей в различных задачах, от прохождения тестов "капча" до игры в "Дипломатию".

Об этом пишет "Patterns". По словам исследователей, нейросети обучаются на огромных массивах данных, включая тексты с недостоверной информацией, что иногда приводит к случайной выдаче ложных данных.

ученые искусственный интеллект общество

Читать на cursorinfo.co.il

Все новости от cursorinfo.co.il

Об этом же в других СМИ

Нейросети «Яндекса» помогут найти сведения о предках и исторических событиях в справочниках XIX‑XX веков habr.com / 1 месяц назад

Герман Греф рассказал в ходе Открытого диалога с сенаторами об ИИ-моделях и нейросетях «Сбербанка» habr.com / 1 месяц назад

Собаки в процессе одомашнивания потеряли кое-что важное – ученые cursorinfo.co.il / 1 месяц назад

Сайт imag.one - агрегатор новостей из открытых источников. Источник указан в начале и в конце анонса. Вы можете пожаловаться на новость, если находите её недостоверной.

Сейчас читают