Новый агрегатор GPU от Kuzco: распределенный кластер на блокчейне Solana
Спрос на GPU стремительно растет, во многом благодаря потребности в обучении ИИ- моделей. Однако, около 50% мировых вычислительных мощностей простаивают.
Компания Kuzco представила новое решение — агрегатор GPU, который объединяет неиспользуемые ресурсы в единую систему для выполнения задач по обработке ИИ-запросов.По сути, это распределенный кластер, построенный на блокчейне Solana и предназначенный для эффективного вывода больших языковых моделей, таких как Llama2 и Mistral.
Используя возможности простаивающих вычислительных ресурсов, которые предоставляют участники сети, Kuzco позволяет пользователям получать доступ к ИИ-моделям и использовать их через API-интерфейс, совместимый с OpenAI.Крупнейший производитель GPU, NVIDIA, продал в 2023 году около 30 миллионов GPU.
Читать на habr.com
