記憶體

高頻寬記憶體(HBM)

美光的高頻寬記憶體是高效能的 3D-stacked DRAM,專為人工智慧、高效能運算和資料密集型工作負載提供龐大的資料輸送量而設計。HBM 專為克服記憶體頻寬限制而打造,在現代系統中實現更快的處理和更高的效率。

一個人一手拿著筆記型電腦,站在資料中心開放式擱架前

高頻寬記憶體

大量生產的美光 HBM4

美光大量生產 HBM4 36GB 12H。HBM4 旨在無縫整合次世代 AI 平台,增強美光領先的 HBM 資料中心和 AI 產品組合。

美光 HBM4 達成:

  • 超過 11 Gb/s 的引腳速度,使頻寬能夠超過 2.8 TB/s1
  • 表示頻寬比 HBM3E 增加 2.3 倍
  • 相較於 HBM3E 提升 20% 的能源效率2

瞭解美光如何應對未來的挑戰。

美光 HBM4 記憶體晶片,黑色背景上有裸露的電路

美光高效能記憶體

美光提供完整的高效能、高頻寬記憶體 (HBM) 產品組合。聯絡我們的業務支援團隊,了解我們如何提供最大頻寬以支援您最需要資料處理的工作負載。

 

美光的高頻寬記憶體產品組合:助力 AI 和高效能運算的未來

美光的 HBM(高頻寬記憶體)組合站在技術創新的最前線,為滿足 AI 和高效能運算的需求量身打造先進的解決方案。 

透過 HBM3E 等產品,美光提供卓越的效能、速度和記憶體頻寬。該產品組合具有業界領先的能效和無縫可擴充性,可實現 AI 應用的平穩擴充。

HBM3E:HBM3E 採用領先業界的製程技術,專為 AI 和超級運算所打造

美光透過 HBM3E 將領先業界的高效能記憶體擴展至我們的資料中心產品組合。在與上一代產品相同的封裝尺寸內,提供更快的資料速度、改善的熱反應,以及提高 50% 的單片晶粒密度。

HBM4:建立在 HBM3E 的傳承之上

美光 HBM4 是 AI 效能的核心,也是迄今為止最為複雜的記憶體設計,相比前代產品效能可謂大升級。

 

HBM 在大型語言模型中的角色

隨著大型語言模型(LLM)不斷推動 AI 的發展,HBM (高頻寬記憶體)成為次世代 LLM 的關鍵因素,本身能夠以前所未有的速度實現智慧、語境感知推理。

紅藍資料指示燈的有機運動

相關資源

HBM 常見問題

高頻寬記憶體(HBM)是一種專用的高效能 3D 堆疊式 SDRAM 架構。 

HBM 不使用傳統的平面印刷電路板設計,而是將多個 DRAM 晶粒垂直堆疊在可選的基礎晶粒上。

它們使用數千個矽通孔(TSV)和微凸塊進行互連,創造出超寬介面,在大幅減少的實體佔用空間中提供龐大的資料輸送量。

雖然標準 DDR5 模組依賴於在超高時鐘速度下運作的較窄匯流排,但 HBM 採用高度平行化的寬介面架構。

例如,單個美光 HBM 立方體具有一個 1024 位元的資料介面,支援 32 個獨立通道,比標準 DDR5 模組寬 16 倍。這使得 HBM 能以更低的每位元能量移動大量資料。 

此外,HSM 透過矽中介層與 CPU 或 GPU 一同直接整合到封裝系統(SiP)中,縮短了必須移動的實體距離資料。

是的。HBM 的設計是為傳輸的每一位元資料減少能源消耗。因為它靠近處理器,使用較短的連接,可以減少耗電量,同時仍提供高效能。

美光利用其專有的 1β(1 測試版)DRAM 節點、低功耗電路設計技術以及先進的訊號/電源完整性解決方案,將功耗降至最低。透過減少電流消耗和降低每位元功率,資料中心可以大幅節省整體擁有成本 (TCO),並營運更永續的人工智慧基礎架構。

HBM 的最大優勢是能夠非常快速地移動大量資料。這種高資料輸送量讓處理器保持忙碌,而不是等待資料,這對 AI 和先進運算等效能密集型應用程式至關重要。

1.  根據美光內部測試和機密客戶測試車輛驗證。
2.  比較 HBM4 與相同容量和堆疊高度 (36GB 12H) 的上一代 HBM3E 的頻寬。

設計工具

使用我們的設計工具和資源,測試、構建和維護高效能解決方案,藉此支援您的設計流程。

搜尋、篩選和下載資料表

深入瞭解產品特性、規格、功能等資訊。

訂購美光樣品

訂購美光記憶體樣品和追蹤訂單的線上資源。

下載項目與技術文件

協助您設計、測試、構建和最佳化創新設計的資源。