В Google рассказали о «галлюцинациях» у чат-ботов
Компания Google предупреждает пользователей о том, что следует проявлять осторожность в отношении информации, которую сообщают чат-ботыКак сообщает 3DNews, компания Google сообщила о том, что порой у чат-ботов бывают сбои, которые могут представлять угрозу для пользователей.По словам старшего вице-президента Google и главы подразделения Google Search, иногда в ИИ происходят сбои, которые в компании назвали «галлюцинации».
Как заявил Прабхакар Рагхаван, в результате подобных ошибок боты могут давать информацию, которая не только не соответствует действительности, но и опасна для пользователей.Примечательным является тот факт, что как и в случае с реальными психическими проблемами, «галлюцинации» у чат-ботов обладают любопытным свойством: если не углубляться в суть сказанного, то ответы нейросети выглядят абсолютно корректными и логичными.
При этом складывается ощущение, что бот действительно «верит» в то, что говорит.Стоит отметить, что данное заявление со стороны Google также вызывает определенные сомнения.
Читать на ont.by
