Генераторы порно и инструменты для мошенничества: инструменты в GPT Store вызвали вопросы
Журналисты Gizmodo проанализировали ИИ-инструменты из торговой площадки OpenAI GPT Store и выяснили, что там публикуют чат-боты, которые прямо нарушают политику компании.
Так, в магазине ботов можно найти генераторы порно, инструменты для мошенничества и медицинских «экспертов».Всего в GPT Store обнаружили более 100 подобных инструментов.
Они нарушают политику компании в отношении сексуального контента, мошенничества, юридических и медицинских консультаций, азартных игр, генерации поддельных отзывов и многого другого.Спустя девять месяцев после официального запуска магазина на главной странице торговой площадки можно было увидеть по меньшей мере три пользовательских GPT, которые нарушали политику магазина: чат-бот «Терапевт – Психолог», «Тренер по фитнесу, тренировкам и диетам» и BypassGPT, инструмент, разработанный для помощи студентам в обходе систем обнаружения текстов ИИ.
Читать на habr.com
