Red Hat приобрела компанию Neural Magic для поддержки ИИ с открытым исходным кодом

Red Hat объявила о приобретении компании в области программного обеспечения и алгоритмов, ускоряющих рабочие нагрузки вывода генеративного искусственного интеллекта, Neural Magic.

Последняя стоит за разработкой рантайма DeepSprase и среды для быстрого вывода и использования больших языковых моделей nm-vllm.Приобретая Neural Magic, производитель ПО на базе Linux планирует усилить свои предложения в области ИИ и использовать возможности стартапа в сфере вывода на GPU и CPU для генеративных рабочих нагрузок ИИ GenAI.Red Hat намерена сделать поколения ИИ более доступными для большего числа организаций при помощи открытых инноваций vLLM.

Это проект с открытым исходным кодом, управляемый сообществом, для обслуживания открытых моделей с поддержкой всех основных семейств моделей, передовыми исследованиями ускорения вывода и разнообразными аппаратными бэкэндами, включая графические процессоры AMD, Nvidia, процессоры x86, AWS Neuron, Google TPU и Intel Gaudi.Лидерство Neural Magic в проекте vLLM вместе с сильным портфелем гибридных облачных технологий ИИ от Red Hat предложит организациям открытый путь к созданию, пояснили в компании-приобретателе.