OpenAI разработала метод водяных знаков для обнаружения текста, написанного ChatGPT, с надёжностью 99,9%
OpenAI разработала метод водяных знаков для надёжного определения текста, написанного ChatGPT. Компания до сих не выпустила разработку, поскольку проект увяз во внутренних дебатах, длящихся почти два года, пишет Wall Street Journal со ссылкой на источники и внутренние документы OpenAI.
Система водяных знаков была готова к развёртыванию ещё год назад.Сотрудники компании колебались между заявленной приверженностью прозрачности OpenAI и желанием привлечь и удержать пользователей.
Компания провела опрос среди лояльных пользователей ChatGPT, который показал, что почти треть отпугнула бы технология выявления текстов, написанных чат-ботом.Представительница OpenAI поделилась, что в компании обеспокоены возможностью инструмента непропорционально влиять на неносителей английского языка.
Читать на habr.com