SK hynix與Sandisk共同公布了次世代儲存技術High Bandwidth Flash(HBF)的第一份標準規格。其構想是把堆疊的NAND快閃記憶體放到AI加速器旁邊,在取得接近HBM的傳輸速度之餘,把容量拉高一個量級。這份規格定義了單一堆疊最高512GB的容量與最高約3TB/s的頻寬,並透過Open Compute Project(OCP)公開,任何廠商都能依此進行設計。

在HBM與SSD之間再補一層

目前的AI伺服器多半把HBM(高頻寬記憶體)直接放在GPU旁邊,再往外才是SSD。HBM速度快但容量有限,SSD容量夠大卻速度偏慢,整個架構只有這兩種性格差異極大的層級。

推論規模一旦放大,中間這段空缺就會浮現。模型權重與上下文資料塞不進HBM,可是每次都跑到SSD去讀取又得等待。HBF正是為這個中間地帶而設計:以垂直堆疊NAND來確保容量,同時把介面頻寬做到接近HBM的水準。

要留意的是,SK hynix與Sandisk並未把HBF定位成HBM的替代品。規格的前提是兩者在同一套系統中並存,對延遲敏感的處理交由HBM負責,而模型權重這類需要就近保留的大量資料則由HBF承擔。

容量最高512GB,頻寬分為三級

公布的規格定義了8層與16層兩種NAND裸晶堆疊組態,容量最高涵蓋到512GB。頻寬則分為Grade1到Grade3三個等級,可從約0.4TB/s一路擴展到3.0TB/s。

之所以做成可分級選擇的形式,是因為HBF並非針對單一產品,而是要對應範圍更廣的加速器。規格除了容量與頻寬之外,也寫入了連接介面與電氣特性、HBF裸晶堆疊製程的可靠度與封裝指引,以及軟體端輸入輸出的處理方式,實作所需的要素大致齊備。

Sandisk先前曾表示,16層堆疊可在與HBM相近的封裝尺寸內達成512GB容量。該公司也宣稱在成本相當的前提下,HBF有機會提供HBM的8倍至16倍容量,並指出以Llama 3.1 405B進行的模擬結果,與HBM容量無上限的系統相比,效能差距落在2.2百分點以內。這些都是廠商自行的試算,不過已能看出其鎖定的水準。

互連採用UCIe,可搭配GPU也可搭配CPU

這份規格中相當醒目的一點,是與處理器之間的連接採用UCIe(Universal Chiplet Interconnect Express)。UCIe是為了高速連接不同種類半導體晶粒而制定的業界標準介面規格,並非特定廠商的專有格式。

在這個環節向標準靠攏,代表HBF不只能搭配GPU,也能與CPU等其他類型的處理器組合。再加上規格透過OCP公開,意圖相當明確:要把HBF做成整個產業的共用基礎,而不是封閉生態。

半年完成規格,Google與Tenstorrent也已加入

SK hynix與Sandisk在標準化上合作是2025年8月的事,聯盟正式成立則是2026年2月,從那時算起約6個月就端出第一份規格。以半導體規格的推進速度來說相當快。

之後Google與Tenstorrent陸續加入聯盟。參與者不只有記憶體廠商,還包含實際設計並運行AI加速器的一方,這對規格能否落地相當關鍵。使用端的需求愈早反映進來,標準就愈不容易停留在紙上。

至於產品化時程,Sandisk先前給出的說法是首批樣品在2026年下半年出貨,採用HBF的AI推論裝置樣品則在2027年初。這次的發表並未更新該時程。現階段的重點,是搶在商用產品之前先把共用介面定下來,讓開發者能以相同前提展開設計。

FMS 2026將首度公開375層NAND

這次發表與8月4日至6日在美國加州聖塔克拉拉會議中心舉行的FMS(Future of Memory and Storage)2026同步進行。首日由SK hynix的Kim Chun-sung與Kang Uk-song,針對把多種記憶體整合為單一體系的Tiered Memory發表聯合主題演講。6日還安排了與Sandisk、Google DeepMind相關人士共同參與的座談。

展區方面,開發中的第10代375層4D NAND晶圓與產品將首度公開。根據SK hynix說明,其每瓦效能較上一代提升2.5倍,並計畫在2027年上半年將採用該NAND的高效能大容量eSSD轉入量產。新的記憶體層級與支撐它的NAND世代交替,在同一場合一併呈現。

總結

SK hynix與Sandisk公布的HBF初版規格,定義了最高512GB容量、最高約3.0TB/s頻寬,以及以UCIe進行的處理器互連。其設計思路並非取代HBM,而是在HBM與SSD之間補上一層,緩解推論時的容量壓力。Google與Tenstorrent已加入聯盟,規格也透過OCP以開放形式公開。實際產品仍需要一段時間,但這標誌著AI記憶體配置開始從兩層往三層移動。

https://news.skhynix.com/en/hbf-at-fms-2026/