Les deux solutions existantes, PCIe et SXM, embarquent 80 Go de mémoire, HBM2e et HBM3 respectivement.
En mars dernier, NVIDIA a présenté deux solutions basées sur le GPU H100 (Hooper), successeur de l’A100 (Ampere) : une variante SXM dotée de 80 Go de mémoire HBM3 pour une bande passante de 3,35 To/s, et une variante PCIe, toujours munie de 80 Go de mémoire, mais de type HBM2e, pour une bande passante de 2 To/s. Le compte Twitter MEGAsizeGPU a repéré une solution H100 inédite équipée de 120 Go de mémoire.
Cette carte PCIe appelée G100 120GB a été repérée au côté de plusieurs autres cartes : des GeForce RTX 3090 Ti, une A100 PCIe, un échantillon d’ingénierie d’une solution RTX ADLCE (Ada Lovelace, soit possiblement une GeForce RTX 4090).
Le chipset NVIDIA H100 s’illustre dans plusieurs benchmarks officiels
Autant de cœurs que la version SXM ?
La carte H100 120GB PCIe aurait les mêmes spécifications GPU que la variante SXM, soit 16 896 cœurs CUDA et 528 cœurs Tensor (contre 14 592 cœurs CUDA et 456 cœurs Tensor pour la H100 80GB).
Solution | NVIDIA H100 SXM | NVIDIA H100 120GB PCIe | NVIDIA H100 80GB PCIe |
GPU | GH100 | GH100 | GH100 |
Transistors | 80 milliards | 80 milliards | 80 milliards |
Surface die | 814 mm² | 814 mm² | 814 mm² |
Architecture | Hopper | Hopper | Hopper |
Noeud de fabrication | TSMC 4N | TSMC 4N | TSMC 4N |
Clusters GPU | 132 | 132 | 114 |
Cœurs CUDA | 16 896 | 16 896 | 14 592 |
Cœurs Tensor | 528 | 528 | 456 |
Cache L2 | 50 Mo | 50 Mo | 50 Mo |
Bus mémoire | 5120-bit | 5120-bit | 5120-bit |
Mémoire | 80 Go HBM3 | 120 Go HBM2e | 80 Go HBM2e |
TDP | 700W | À déterminer | 350W |
Interface | SXM5 | PCIe Gen5 | PCIe Gen5 |
Nous verrons dans les prochaines semaines si NVIDIA officialise cette variante. Les caractéristiques mises à jours des deux existantes sont consignées ci-dessous. Notez que les bandes passantes sont bien de 3,35 To/s et de 2 To/s.