HBM

High-Bandwidth Memory ist ein vertikaler Stapel von DRAM-Chips, die mit Through-Silicon-Vias miteinander verbunden sind. Diese Technologie ermöglicht Datenübertragungen zwischen den Schichten mit deutlich höheren Raten als konventionelle nebeneinander angeordnete Chips. Ein typischer HBM-Stapel besteht aus 8 Speicherschichten, jede 1,5 mm dick, gestapelt auf eine Gesamthöhe von etwa 12 mm. Der Durchsatz eines einzelnen HBM-Stapels in aktuellen Generationen erreicht 460 Gigabyte pro Sekunde oder mehr, während traditionelle Speicheranordnungen in Standard-CPUs etwa 50 bis 100 GB/s bieten.

Der Hauptvorteil liegt nicht in der Kapazität, sondern in der Geschwindigkeit und Energieeffizienz. Grafikprozessoren, KI-Beschleuniger und High-Performance-Computing-Chips müssen große Datenmengen pro Taktzyklus verschieben. Eine einzelne GPU kann mit mehreren HBM-Stapeln arbeiten: NVIDIAs H100 nutzt bis zu 141 GB/s pro Stapel, wobei die Bandbreite über mehrere Stapel parallel verteilt ist. Diese Architektur löst den Speicherengpass, der sonst begrenzen würde, wie viel Rechenarbeit ein Prozessor tatsächlich leisten kann, bevor er auf die Ankunft von Daten warten muss.

Warum der vertikale Stapel wichtig ist

Jede Schicht verbindet sich mit ihren Nachbarn durch Tausende von winzigen Leitungslöchern, die durch das Silizium selbst gebohrt werden. Dieser vertikale Weg ist um Größenordnungen kürzer als horizontale Leiterbahnen auf einer Leiterplatte, was niedrigere Latenzen, geringere Signalverluste und bessere Energieeffizienz pro übertragenes Bit bedeutet. Der Nachteil liegt in der Herstellungskomplexität: Das Verbinden von Chips mit Mikrometer-Genauigkeit, die Wärmeleitung durch einen hohen Stapel und die Fehlerprüfung in jeder Schicht vor der Montage erfordern großen Aufwand.

Die HBM-Einführung begann in spezialisierten Märkten: 2015 in High-End-Grafikkarten, seitdem ausgeweitet auf Datencenter-GPUs, Server-Beschleuniger und einige Next-Generation-CPUs. Der Standard wird von JEDEC gepflegt, mit HBM2, HBM2e und HBM3 Varianten in regelmäßigen Abständen. Jede Generation verdoppelt ungefähr die Bandbreite und Kapazität pro Stapel, während thermische Herausforderungen durch die dichtere Transistoranordnung gemanagt werden.

Kosten und Ausbeute bleiben Hürden für eine breitere Anwendung. HBM ist teurer in der Herstellung als konventioneller Speicher und kann nicht die Fehlerquoten tolerieren, mit denen DRAM-Fabs umgelernt haben. Bei Konsumgeräten oder kostensensitiven Anwendungen dominieren konventionelle Speichersysteme weiterhin. Aber überall dort, wo die reine Rechenleistung pro Watt wichtiger ist als die Materialkosten, ist HBM zur unverzichtbaren Infrastruktur geworden.