Terminologie

Die folgenden Begriffe werden häufig bei der Arbeit mit AI Hypercomputer verwendet.

blockieren
Eine Sammlung von Unterblöcken, die über eine nicht blockierende Struktur miteinander verbunden sind, die eine Verbindung mit hoher Bandbreite zwischen allen Hosts bietet.

Cluster 
Eine Sammlung von Blöcken, die über ein Hochgeschwindigkeitsnetzwerk verbunden sind. Jeder Cluster ist global eindeutig. Bei A4X-, A4-, A3-Ultra-, A3-Mega- und A3-High-Maschinen (8 GPUs) bietet ein Cluster eine gemeinsame, nicht blockierende Netzwerkstruktur für Ihre Blöcke mit Beschleunigerkapazität. Innerhalb eines Clusters ist die East-West-Vernetzung für die gesamte Sammlung von Blöcken nicht blockierend.

Dichte Bereitstellung
Eine Ressourcenanfrage, bei der Ihre Beschleunigerressourcen physisch nah beieinander zugewiesen werden, um Netzwerk-Hops zu minimieren und die niedrigste Latenz zu optimieren.

Netzwerkstruktur
Ein Netzwerk-Fabric bietet eine Verbindung mit hoher Bandbreite und niedriger Latenz über alle Blöcke und Google Cloud Dienste in einem Cluster hinweg. Jupiter ist die Rechenzentrumsnetzwerkarchitektur von Google, die softwarebasiertes Networking und optische Schalter verwendet, um das Netzwerk weiterzuentwickeln und seine Leistung zu optimieren.

Knoten oder Host
Ein einzelner physischer Server im Rechenzentrum. Jedem Host sind Rechenressourcen wie Beschleuniger zugeordnet. Die Anzahl und Konfiguration dieser Rechenressourcen hängen von der Maschinenfamilie ab. Compute Engine-Instanzen werden auf einem physischen Host bereitgestellt.

Eine NVLink-Domain, auch als Subblock bezeichnet, ist die Haupteinheit der Kapazität für A4X Max- und A4X-Maschinen. Eine NVLink-Domäne besteht aus 18 A4X Max- oder A4X-Instanzen (72 GPUs), die über ein Multi-Node-NVLink-System verbunden sind.

Unterblock
Eine Gruppe von Hosts und zugehöriger Konnektivitätshardware, die sich auf einem einzelnen physischen Rack befinden. Im Zusammenhang mit A4X Max- und A4X-Maschinen wird ein Unterblock auch als NVLink-Domain bezeichnet.

Weitere Informationen

In den folgenden Dokumenten finden Sie weitere Erläuterungen der Terminologie, die für die entsprechenden Themen relevant ist: