На конференции Ignite 2024 подразделение Microsoft Azure представило первый процессор семейства Epyc, укомплектованный ядрами Zen 4 и памятью HBM3 — продукт получил обозначение AMD Instinct MI300C, и на данный момент он доступен в только в облачной инфраструктуре Microsoft, а именно в инстансах Azure HBv5.
Источник изображений: microsoft.com
В минувшее воскресенье, когда глава подразделения центров обработки данных AMD присутствовал на презентации самого быстрого суперкомпьютера El Capitan, компания упомянула MI300C как одну из моделей линейки Instinct , но подробностей тогда не привела. Ускорители семейства AMD Instinct MI300 предназначаются для сектора высокопроизводительных вычислений и искусственного интеллекта.
Они имеют чиплетную компоновку, основу для которой составляют четыре расположенных рядом кристаллов I/O Die, на которых размещаются чиплеты GPU/XCD или центрального процессора. Если у ускорителя MI300A конфигурация включает шесть XCD и три восьмиядерных CCD, то у MI300C блоки XCD заменены на CCD — соответственно, общее число ядер Zen 4 составляет не 24, а 96. Прочих отличий практически нет; имеется блок памяти HBM3 объёмом 128 Гбайт. По сути, получается, что ускоритель AMD MI300C — это процессор Epyc с HBM3.
На практике объём доступных ресурсов процессора зависит от сценариев его использования. В виртуальной машине Microsoft Azure HBv5 они работают по четыре единицы, причём на каждый процессор доступны только 88 ядер; установленные на плате четыре процессора с максимальной тактовой частотой 4 ГГц дают 352 ядра. Пропускная способность памяти составляет 6,9 Тбайт/с при объёме 400–450 Гбайт (HBM3), можно установить до 9 Гбайт памяти на ядро. Функция SMT (Simultaneous Multithreading) отключена; на один сервер приходится только одна виртуальная машина.
Поддерживается интерконнект Nvidia Quantum-2 InfiniBand со скоростью 800 Гбит/с — по 200 Гбит/с на ускоритель; функция VMSS Flex позволяет масштабировать рабочие нагрузки MPI до сотен тысяч процессорных ядер с доступом к памяти HBM; присутствует сетевой адаптер Azure Boost 2, обеспечивающий скорость работы сети до 160 Гбит/с. Клиентам также предлагается локальный твердотельный накопитель NVMe ёмкостью 14 Тбайт, скорость чтения которого составляет до 50 Гбайт/с и записи — до 30 Гбайт/с.
Подчёркивается, что AMD Instinct MI300C в обозримом будущем останутся доступны эксклюзивно только в Microsoft Azure.