Nejnovější paměti typu HBM dodají AI akcelerátorům a GPU propustnost téměř 10 TB/s.
Paměti HBM se od doby karty AMD Radeon VII neobjevily v herních grafických kartách, ale při současném rozmachu AI akcelerátorů (včetně těch založených na GPU architekturách) jsou důležitější než kdy dříve, protože akcelerace neuronových sítí stojí na jejich obří propustnosti. Samsung teď oznámil dosud nejvýkonnější z těchto pamětí, která dosahuje efektivní frekvence téměř 10 GHz (10 Gb/s na jeden bit sběrnice). Kde jsou doby, kdy HBM jela na 1000 MHz…
Samsung dává jednotlivým generacím svých pamětí typu HBM kódová jména a u této nově oznámené se bavíme o generaci „Shinebolt“. Paměti Shinebolt implementují standard HBM3E, tedy již zrychlenou verzi technologie HBM3, a je to vidět. Přenosová rychlost na jeden bit šířky sběrnice je 9,8 Gb/s, tedy v tradičním a ne úplně přesném slovníku by se dalo mluvit o efektivní frekvenci 9,8 GHz.
Šířka sběrnice je jako u paměti HBM3, HBM2 i HBM2E stále 1024 bitů na jedno pouzdro, jež je tvořeno několika vrstvami DRAM a logickým čipem, který zajišťuje komunikaci s paměťovým řadičem GPU, procesoru nebo akcelerátoru, který má tyto paměti osazené. Kombinace už poměrně vysoké frekvence (poloviční proti současné GDDR6) a této šířky znamená, že jediné pouzdro HBM3E „Shinebolt“ poskytuje paměťovou propustnost 1225 GB/s, tedy vyšší než má celé paměťové osazení GeForce RTX 4090 s jejími 12 čipy GDDR6X.
GPU typicky používají čtyři, nebo šest pouzder (4096bitovou, nebo 6144bitovou sběrnici), což by dávalo s těmito pamětmi propustnost 4,9 TB/s, respektive 7,35 TB/s. Konkrétní GPU ale může použít o něco nižší frekvenci, kdy se propustnost trošku sníží. Čipletová GPU, která mají třeba v případě Intel Ponte Vecchio nebo AMD MI300 dokonce osm pouzder HBM3E, by už ale při maximální frekvenci sahala téměř po 10 TB/s, byť to je agregovaná propustnost všech čipletů.
Samsung představuje nové paměti na Memory Tech Day 2023
Autor: Samsung9,8 Gb/s nicméně může být propustnost úplně top produktů, která už může být v rámci přetaktování (tedy něco podobného jako XMP moduly v běžných PC). Podle AnandTechu by možná běžná, ne-OC propustnost mohla být třeba kolem 8,0 Gb/s. Mimochodem, zdá se, že Samsung bude v rychlosti o kousek před konkurencí, protože Micron a Hynix oznámily pro svou HBM3E efektivní frekvenci 9,2, respektive 9,0 GHz či Gb/s.
Paměti HBM3E Shinebolt od Samsungu
Autor: SamsungTaké kapacita je vysoká. Samsung v těchto pamětech používá 12 vrstev DRAM, které zase mají dnes maximální kapacitu 24 Gb (3 GB na jednu vrstvu). Jedno pouzdro tedy dává kapacitu 36 GB, a pokud si zase vezmeme jako model ona čtyř- a šestipočetná osazení, lze takto dostat kapacity paměti 144 GB a 216 GB. Je dobré připomenout, že paměti typu HBM mohou dnes používat i CPU (Xeony Max nebo AMD Instinct MI300C), pro které už může být 144 GB kapacita, s níž se obejdou bez další pomalejší paměti DDR5.
Čip je vyráběný na procesu „10nm třídy 4. generace“, což by ve skutečnosti snad měl být 14nm proces Samsungu, který používá EUV (pozor, DRAM procesy nejsou zaměnitelné s těmi logickými, jde o něco úplně jiného než klasická 14nm technologie pro procesory). Proces a nový návrh má prý znamenat, že HBM3E Shinebolt přenese jeden bit s o 10 % lepší energetickou efektivitou při stejné frekvenci v porovnání s HBM3 (Icebolt). Jenže frekvence bude zvýšená o mnohem více než 10 %, což znamená, že celkově spotřeba jednoho pouzdra naroste.
Zdroje: Samsung, AnandTech
