Bild: Nvidia

144 Terabyte Grafikspeicher zur Ausbildung und Unterstützung generativer KI. Im 20 Tonnen schweren System sind 240 Kilometer Glasfaserkabel verbaut

Im Wettstreit um die bessere künstliche Intelligenz spielt auch die Hardware für das Training der Modelle eine entscheidende Rolle. Auf der Computex 2023 hat Chiphersteller Nvidia nun den nächsten Schritt in diesem Bereich angekündigt: CEO Jensen Huang präsentierte auf der Keynote des Unternehmens den serienreifen Superchip "Grace Hopper", der in diesem Bereich neue Maßstäbe setzen soll. Der Supercomputer "DGX GH200" kombiniert 256 solcher Chips zu einem Cluster und kommt damit auf eine Rechenleistung von einem Exaflops.

Der Superchip selbst besteht aus 72 Arm-CPU-Kernen, einer Hopper-GPU, 96 Gigabyte HBM3-Speicher und 512 Gigabyte LPDDR5X-Speicher, die auf einer Platine angeordnet sind. CPU und GPU können mit einer Geschwindigkeit von einem Terabyte pro Sekunde auf andere Chips sowie den daran angebundenen Speicher zugreifen.