Announcing Long-Context Training on TPUs with MaxText Context Parallelism
Як ця новина вийшла в дайджесті
Google представила підтримку тренувань LLM із довгим контекстом у MaxText на TPU — до 14 млн токенів у одному вікні, досягаючи 70% MFU на TPU 5p і забезпечуючи ефективний context parallelism для сучасних моделей оновлення MaxText
Повний текст — на сайті видання
Ми не передруковуємо статті. Посилання веде напряму до Google Developers Blog.
Читати оригінал →
Як новина потрапила у випуск
Множники, з яких склався ранг
0,66
=
0,95
релевантність
×
0,69
свіжість · 9,7 год
×
1,00
резонанс · 1 видання
×
1,01
вага джерела
«Новина про технологію тренування великих мовних моделей на TPU, що є темою розробки програмного забезпечення та інфраструктури AI.» — класифікатор, 0,95
Ще з теми Software development того дня
Увесь випуск за 10 листопада
Усе, що дійшло до випуску того дня, і чому саме воно
До випуску →