Британский институт проблем безопасности ИИ открыл доступ к платформе для тестирования ИИ-моделей
Британский институт проблем безопасности ИИ (AI Safety Institute) открыл свободный доступ к своей новой платформе для тестирования ИИ-моделей.Платформа под названием Inspect предназначена для тестирования и оценки безопасности моделей искусственного интеллекта.
Она представляет собой библиотеку программ для оценки индивидуальных возможностей определённых ИИ-моделей в баллах. Утверждается, что Inspect можно задействовать для анализа различных параметров моделей, включая их «базовые знания, способность делать выводы, автономность».Инструменты Inspect будут доступны по лицензии с открытым исходным кодом, в том числе MIT.Платформа включает три основных компонента: наборы данных, инструменты решения и инструменты оценки.
Наборы данных предоставляют образцы для оценочных тестов, инструменты решения проводят тесты, а инструменты оценки суммируют баллы тестов в метрики.Компоненты можно дополнить с помощью сторонних пакетов, написанных на Python.
Читать на habr.com
