Meta Expands Its Custom Silicon Strategy From Compute Into Networking

💾 Meta представила MTIA 300 — перший власний акселератор для тренування моделей рекомендацій, який інтегрує мережеві можливості безпосередньо у чип. Замість традиційного підходу, де мережевий інтерфейс відділений, MTIA 300 має дві окремі мережеві мікросхеми з дванадцятьма NIC по 800 Гбіт/с, забезпечуючи 1,2 ТБ/с пропускної здатності без PCIe. Чип також містить 16 спеціалізованих message engines, що дозволяють одночасно обробляти обчислення та колективну комунікацію з мінімальною втратою продуктивності — менш ніж 0,5% (проти понад 20% на звичайних GPU). Для 150-мільярдної моделі на 40 акселераторах це скоротило час комунікації майже у 4 рази. Детальніше — у MTIA 300