Des Bow IPU (Bow Intelligence Processing Unit) constituées d’une paire de wafers.
Graphcore annonce le premier processeur 3D WoW (Wafer-on-Wafer) au monde, baptisé Bow IPU (Bow Intelligence Processing Unit). Selon la société, cette puce, qui sera au cœur de sa nouvelle génération de systèmes informatiques Bow Pod AI, offre des performances jusqu’à 40 % plus élevées et une efficacité énergétique 16 % meilleure pour les applications AI que son prédécesseur, conçu en 2D, grâce au “facteur WoW”.
Ce facteur WoW résulte d’une collaboration avec TSMC. Le Bow IPU, fabriqué par le fondeur taïwanais en 7 nm, met à profit une technologie d’empilement 3D permettant l’association d’une paire de wafers formant un die 3D. L’un des deux wafers, composé de 1472 tuiles IPU-Core indépendantes, offre 8800 threads et 900 Mo de mémoire interne. Le deuxième wafer de cet empilement, connecté par une liaison hybride Back Side Through Silicon Via (BTSV) et WoW, sert à l’alimentation. Graphcore argue que “chaque processeur fournit 350 TFLOPS de calcul IA”.
Du Bow Pod 16 au Bow Pod 1024
Quatre processeurs Bow IPU forment un Bow-2000 – la composante de base de chaque système Bow Pod – ce qui donne une puissance de 1,4 PFLOPS. Le système commercialisé le plus modeste est le Bow Pod 16 : il contient quatre Bow-2000 IPU et délivre ainsi 5,6 PFLOPS.
Graphcore propose plusieurs systèmes, jusqu’au Bow Pod 1024. Celui embarque 1024 Bow IPU (soit 256 Bow-2000), lesquels lui confèrent une puissance de 358,4 PFLOPS.
L’IPU de Graphcore, 10 fois plus rapide qu’un GPU Nvidia pour le deep learning
Une comparaison avec les DGX-A100 de NVIDIA pas vraiment équitable
Vous l’aurez remarqué, Graphcore compare les performances de ses Bow IPU à celles des systèmes NVIDIA DGX-A100, lesquels semblent clairement dépassées malgré un prix bien plus élevé (299 000 dollars contre 150 000 dollars). Néanmoins, comme l’a démontré Dylan Patel dans un article publié sur SemiAnalysis, la comparaison faite par Graphcore est inique pour plusieurs raisons.
D’abord, elle oppose 16 de leurs IPU, chacun ayant une surface 823 mm², à 8 solutions A100 de NVIDIA (surface de 826 mm²), soit une quantité quasiment deux fois plus grande de silicium.
Ensuite, l’affrontement porte sur un petit modèle pour gommer le déficit de mémoire dont pourrait souffrir le système Graphcore.
Enfin, Graphcore a délibérément choisi des A100 de 80 Go pour gonfler le prix du système NVIDIA ; qui plus est, ce montant correspond à celui d’un système bénéficiant d’un support direct de l’entreprise. Ainsi, Dylan Patel rapporte qu’un système comparable réalisé par SuperMicro avec des A100 40 Go coûterait 125 000 dollars.
Bref, comme toujours, considérez toutes ces annonces et données marketing avec prudence.
Sources : Graphcore et SemiAnalysis via Tom’s Hardware US
