美光科技（Micron Technology）於 2026 年 9 月 15 日（美國時間）宣布，全球首款伺服器用 512GB DDR5 RDIMM 已在多個伺服器平台上成功運作。這款模組最高可達 9,200MT/s，在具備 24 個記憶體插槽的雙路伺服器上，單機即可裝到 12TB 的主記憶體。與用 4 條 128GB 模組湊出相同容量相比，運作功耗減少 60% 以上。AMD 與 Intel 目前正針對下一代伺服器平台進行驗證。量產預計落在 2027 年下半年，雖然現在還買不到，但這是一個足以改變 AI 伺服器記憶體配置方式的里程碑。
把 DRAM 晶粒垂直堆疊，單條做到 512GB
單條模組能塞進 512GB，關鍵在於將 DRAM 晶粒（半導體晶片本體）垂直堆疊的封裝技術。堆疊後的晶粒之間以矽穿孔（TSV）連接，在不增加封裝面積的情況下提高每個封裝的容量。這與 HBM 採用的概念相同，如今被帶進伺服器標準記憶體模組 RDIMM 之中。
由於模組外型與插槽數量都維持不變，伺服器不必更換機箱就能增加安裝容量。依照美光提供的範例，24 插槽的雙路機種最高可達 12TB。目前送樣中的 256GB 模組在同樣配置下上限為 6TB，等於容量直接翻倍。
運作速度最高為 9,200MT/s。美光採用 1γ（1-gamma）世代 DRAM 的 256GB RDIMM 同樣標榜 9,200MT/s，512GB 模組也會以相同的速度等級，配合下一代平台推出。
與 4 條 128GB 相比，運作功耗接近三分之一
美光最強調的是電力效率。單條 512GB 模組的運作功耗為 16.0W，而以 4 條 128GB 模組組成 512GB 時合計為 44.2W，降幅超過 60%（依計算約為 64%）。記憶體是持續通電的零件，這個差距會直接反映在單台伺服器乃至整個機架的耗電量上。
在效能方面，美光展示了在記憶體頻寬與容量成為瓶頸的處理上所帶來的效果。在以 Spark 支援向量機（SVM）為基礎的資料分析中，相較於 256GB DDR5 配置，效能最高提升 1.4 倍。對於 RocksDB、Redis 這類常駐記憶體的資料庫與快取平台，吞吐量與同時處理數也會提高，資料集能更有效率地擴展。不過，實際提升幅度仍取決於工作負載與伺服器配置。
目標用途涵蓋 LLM 推論、記憶體內資料庫到虛擬化
美光列出的應用場景包括大型語言模型（LLM）、代理型 AI、即時推論、使用多核心 CPU 的處理、記憶體內資料庫、快取服務，以及虛擬機器的整併。這些場景的共通點，是希望把大量資料留在主記憶體中，而不是移到儲存裝置。減少資料在儲存裝置與記憶體之間來回搬移的次數，就能相對節省延遲與電力。
領導雲端記憶體事業部門的 Raj Narasimhan 表示，512GB RDIMM 讓現有伺服器在既有的實體框架內就能達成數 TB 等級的配置，同時推進 AI 與資料庫的大型化、虛擬化密度的提升與電力效率的改善。
AMD 與 Intel 進行驗證，摩根大通也表達期待
AMD 與 Intel 兩家公司都為這次發表提供了評論。AMD 的 Amit Goel 表示，透過與美光在設計層面的合作，將運算與記憶體的創新結合在一起；Intel 的 Karin Eibschitz Segal 也說明，為了讓面向下一代資料中心的未來平台能使用 512GB RDIMM，Intel 正在推進驗證。兩家公司同時明確表示正在驗證，意味著在下一個伺服器世代中，它很可能被視為標準選項。
在使用者方面，摩根大通（JPMorganChase）負責基礎設施平台的 CIO Darrin Alves 評論指出，大容量記憶體有助於最佳化運算、記憶體與效率之間的平衡。對金融機構這類大量使用記憶體內處理的產業而言，單台伺服器容量翻倍的意義並不小。
2027 年下半年量產，與整體供應動向重疊
美光將 512GB RDIMM 的量產時間訂在 2027 年下半年，並依客戶需求逐步投產。距離發表還有一年以上，短期內 256GB 模組仍會是最高規格。即便如此，在 DRAM 需求集中於 AI、各廠商加緊投資新廠的此刻，一項能讓單一插槽容量翻倍的技術獲得確認，意義依然重大。
要補充的是，這次發表仍處於「實證與驗證中」的階段，型號與價格尚未公布。考量到 DRAM 需求正集中於 AI 領域，筆者也會關注 2027 年下半年開始量產時，伺服器記憶體市場會是什麼樣貌。
總結
美光在多台伺服器上實證了全球首款 512GB DDR5 RDIMM，展示最高 9,200MT/s 的速度，以及雙路機種 12TB 的容量。其特色是以 TSV 堆疊 DRAM 晶粒的封裝技術，與 4 條 128GB 模組相比運作功耗減少 60% 以上，AMD 與 Intel 正針對下一代平台進行驗證。量產預定於 2027 年下半年，鎖定 LLM 推論、記憶體內資料庫等需要大容量記憶體的用途。
