Генеральный директор Google признал, что у функции AI Overview есть проблема с «галлюцинациями»

Недавно введенная функция Google AI Overview, предназначенная для предоставления кратких сводок в верхней части страниц результатов поиска, подверглась критике за распространение неверной и странной информации.

В недавнем интервью генеральный директор Google Сундар Пичаи (Sundar Pichai) признал наличие серьезной проблемы в новой функции AI Overview, предназначенной для создания кратких сводок в результатах поиска.Пользователи столкнулись с неточной и иногда абсурдной информацией, предоставляемой этой функцией.

Примеры включают советы использовать клей для фиксации сыра на пицце и приписывание ложных утверждений экспертам. Пичаи объяснил, что такие “галлюцинации” являются следствием ошибок в больших языковых моделях, которые используются в AI Overview.