Microsoft рассказала о первом ИИ-чипе Maia 100

Во время конференции Ignite 2023 Microsoft впервые объявила о разработке собственного чипа-ускорителя ИИ под названием Maia.

Накануне на мероприятии Hot Chips 2024 компания поделилась спецификациями Maia 100. Ранее в этом году во время конференции разработчиков Build Microsoft уже рассказала, что Maia 100 — один из крупнейших процессоров, созданных на 5-нм узле TSMC, и он разработан специально для крупномасштабных рабочих нагрузок ИИ, развёрнутых в Azure.Характеристики Maia 100:размер чипа — 820 мм2;корпус — процесс TSMC N5 с технологией интерпозера COWOS-S;HBM BW/Cap — 1,8 ТБ/с @ 64 ГБ HBM2E;Peak Dense Tensor POPS — 6 бит: 3, 9 бит: 1,5, BF16: 0,8;L1/L2 — 500 МБ;Backend Network BW — 600 ГБ/с (12X400 ГБ);Host BW (PCIe) = 32 ГБ/с PCIe Gen5X8;требования к TDP — 700 Вт;TDP — 500 Вт.Система Microsoft Maia 100 вертикально интегрирована для оптимизации стоимости и производительности.

Она также оснащена индивидуальными серверными платами со специально разработанными стойками и программным стеком для повышения производительности.Архитектура SoC Maia 100:высокоскоростной тензорный блок для обработки обучения и вывода с поддержкой широкого спектра типов данных.