API модерации контента от Mistral, основанный на модели Ministral 8B, способен адаптироваться к различным приложениям и требованиям безопасности.
Модель классифицирует текст на девяти языках, включая английский, французский и немецкий, по таким категориям, как сексуальный контент, ненависть и дискриминация, насилие и угрозы, криминальный контент, финансовая информация и персональные данные.
API может работать как с исходным, так и с разговорным текстом, что расширяет его применимость.Компания Mistral отмечает растущий интерес со стороны индустрии и исследовательского сообщества к системам модерации на основе ИИ, способным повысить масштабируемость и надежность контент-модерации для различных приложений.
Читать на habr.com