d1g3st. Читати в Telegram

AWS Lambda Now Runs GPU Inference with 48 Concurrent Invocations Sharing One Model per GPU

Як ця новина вийшла в дайджесті

AWS Lambda тепер підтримує GPU-інференс: у середовищах на G-серії EC2 до 48 паралельних викликів можуть працювати з однією копією моделі, а масштабування підлаштовується під навантаження GPU і CPU

Повний текст — на сайті видання Ми не передруковуємо статті. Посилання веде напряму до InfoQ.
Читати оригінал →

Як новина потрапила у випуск

Тема
Роль у випуску
Пункт випуску
Ранг
0,89
У дайджесті
Множники, з яких склався ранг
0,89 = 0,90 релевантність × 0,98 свіжість · 0,6 год × 1,00 резонанс · 1 видання × 1,02 вага джерела

«Додавання підтримки GPU для AWS Lambda для AI інференсу — це новина про AI технології та інфраструктуру.» — класифікатор, 0,90

Ще з теми AI того дня

Увесь випуск за 22 листопада Усе, що дійшло до випуску того дня, і чому саме воно
До випуску →