NVIDIA представила ускоритель ИИ HGX H200 – вдвое быстрее H100
NVIDIA анонсировала самый мощный в мире ускоритель под названием HGX H200. Новинка основана на уже известной архитектуре NVIDIA Hopper и является обновлённой версией флагманского ускорителя H100 с более быстрой памятью HBM3e. Благодаря новому хранилищу ускоритель сможет быстрее обрабатывать большие объёмы данных для генеративного ИИ и высокопроизводительных вычислительных задач.
NVIDIA HGX H200 – первый графический процессор с памятью HBM3e, которая быстрее традиционной HBM3. NVIDIA HGX H200 обладает 141 ГБ памяти HBM3e со скоростью 4,8 ТБ/с. Тогда как у H100 только 80 ГБ (3,35 ТБ/с).
Используя достаточную пропускную способность и ёмкость памяти, HGX H200 обеспечивает почти в 2 раза более высокую скорость вывода на продвинутых моделях искусственного интеллекта, таких как языковая модель Llama от Anthropic с 70 миллиардами параметров. Это увеличивает время отклика при обработке естественного языка.
[embedded content]
Ожидается, что поставки HGX H200 начнутся во втором квартале следующего года, что даст центрам обработки данных более года на подготовку инфраструктуры для новейших карт-ускорителей. Серверы на базе HGX H200 будут доступны у всех основных производителей и облачных провайдеров.