NVIDIA GH200 Grace Hopper Superchip

NVIDIA GH200 Superchip は、Arm® ベースの Grace CPU と NVLink-C2C を使用した Hopper GPU アーキテクチャを統合することで、世界中のスーパーコンピューターでの科学研究と発見を加速します。NVIDIA Grace Hopper Superchip を採用したスーパーコンピューターを組み合わせることで、200 エクサフロップス (毎秒 2 垓回の演算) というエネルギー効率に優れた AI 処理能力を実現します。

ストレージとネットワーク帯域幅の最近の進歩、およびムーアの法則の終焉により、分析とクエリのボトルネックは CPU に移行しました。さらに、GH200 では、CPU と GPU がプロセスごとに 1 つのページ テーブルを共有するため、すべての CPU スレッドと GPU スレッドは、物理 CPU または GPU メモリに配置できるシステム割当メモリにアクセスできるようになります。GH200 は、CPU とGPU 間のメモリのやりとりの必要性を排除し、データ処理を最大 36 倍高速化します。

検索拡張生成 (RAG) は、大規模言語モデル (LLM) にナレッジベースを組み合わせ、モデルの精度を向上させます。 RAG では、埋め込みの生成とベクトル検索の大規模な実行が必要です。 72 個のエネルギー効率に優れた Arm ベースの Grace CPU コアがナレッジベース データの前処理を高速化し、NVLink-C2C が事前処理済みデータの Hooper GPU への転送速度を PCIe と比較して 7 倍高速化することで、埋め込みの生成プロセスが 30 倍高速化します。

グラフ ニューラル ネットワーク (GNN) は、ソーシャル ネットワーク分析、創薬、不正検知、分子化学など、幅広いアプリケーションで使用されています。 GH200 は、最大 624GB の 高速メモリ (CPU と GPU の合計)、4 PFLOPSの H200 GPU、900 GB/秒の NVLink-C2C を活用し、H100 PCIe GPU と比較して GNN トレーニングを最大 8 倍高速化します。