Недавний отчет изданий The Markup и The City выявил опасную тенденцию чат-бота MyCity, запущенного правительством Нью-Йорка, предоставлять неверную информацию по ряду важных вопросов, касающихся местных законов и нормативных актов.Чат-бот MyCity, работающий на платформе Microsoft Azure, был представлен в октябре 2023 года как пилотный проект для помощи владельцам бизнеса в понимании правил города.
Однако проведенное тестирование показало, что бот распространяет ошибочные сведения о таких ключевых вопросах, как принятие ваучеров на жилье по Разделу 8, оплата труда, регулирование рабочего времени и ценообразование в некоторых отраслях.Несмотря на предупреждения, что MyCity может предоставлять неточный или вредный контент, бот позиционируется как официальный источник информации о ведении бизнеса в Нью-Йорке.
Это вызвало обеспокоенность у представителей местной индустрии гостеприимства, которые сами столкнулись с неточностями в ответах бота.Проблема с чат-ботами, основанными на больших языковых моделях, заключается в том, что они генерируют ответы на основе статистических ассоциаций, а не реального понимания информации.
Читать на gagadget.com