Stock LLM Wiki

OCP2026_AI記憶體階層與客製晶片

更新 2026-10-19

分析時點 2026-10-19;資料基礎為 OCP 2026 峰會 13 場記憶體與客製晶片場次。報告:

結論

KV cache 讓 AI 推論的記憶體問題從「單顆 HBM 容量」變成「跨機櫃的分層容量與寫入耐久」問題;HBM→DRAM→CXL 池→SSD 是各家一致方向,但效益數字全是廠商自測、口徑不同,只能比方向不能比大小。台股有一手證據的只有聯發科與創意;其餘(群聯、慧榮、威剛、宜鼎、南亞科)全為推論。

結論/投資觀點

受惠順序依證據:聯發科、創意(展示與公司自述,客戶未具名)> 台積電(平台合作)> eSSD 控制器與模組廠(推論,且受 Samsung/SK hynix 垂直整合壓縮)。信心水準:中。

投資重點 memo

重點 投資含義 相關標的 信心
記憶體階層化(HBM→DRAM→CXL→SSD) 敘事由 HBM 擴散到 DRAM 容量、企業級 SSD、NAND;分層效益為自測,須待量產與客戶導入 000660.KR(sk_hynix)、005930.KR(samsung)、MU.US(micron) 中
SSD 耐久與資料放置(FDP/ZNS/Placement ID) eSSD 控制器韌體與遙測成為規格門檻;垂直整合者吃掉多數機會 8299_群聯(市)(推論) 低至中
CXL 池仍在 POC/試點 不寫成放量;Samsung 2027 次世代池為路線目標;Meta CXL 為通用負載 MRVL.US(marvell)、005930.KR(samsung) 中
HBF 時程 Spec 1.0 預期 2027-01、HBF Cube 2028 Q1;GS 的 CY27 樣品為較樂觀並列說法 000660.KR(sk_hynix) 中
客製 HBM 與 D2D 路線分歧 Marvell SBD、創意 GLink、聯發科 UCIe/Mlink 未收斂;HBM5 熱約 90–100W/堆疊為下一瓶頸 3443_創意電子(市)、2454_聯發科(市) 中
聯發科資料中心 ASIC 簡報 2026 營收 $1B 劃改 $2B、TAM 年度 2028 改 2027、首個量產設計 2026 Q4 出貨;展示 ASIC 托盤搭 NVSwitch 托盤;客戶未具名 2454_聯發科(市) 中
MS 轉述:CXL 交換器 fabric 讓多主機於機櫃尺度共享記憶體(OCP 展示 MARS 與夥伴),但成熟仍需時間;客製 ASIC 與伺服器 CPU 放量維持軌道;儲存伺服器需求可能因 Muse 上升(Muse 指涉待核對) 與 CXL 仍在 POC 的判斷一致;儲存伺服器上行為單一券商敘述 MRVL.US(marvell)(推論) 低至中

Insight

結論 投資含義 信心
SSD 層的門檻是耐久與資料放置,不是容量。三場(SK hynix、Samsung、Meta)都指向 FDP/ZNS/Placement ID KV 推高 NAND 寫入量與企業級 SSD 規格;對 eSSD 控制器韌體要求上升。但 Samsung(PM17xx)與 SK hynix 自有控制器,外部控制器廠機會打折(推論) 低至中
容量有門檻:Micron 建模約 400GB 起重用率飽和、並行 64 時崩落 「買不到門檻等於無效」;NAND 與 SSD 需求要看並行度與工作集,而非單純容量擴張 中(單一來源,建模)
Meta 是「可營運」而非「放量」證據:QLC 與 CXL 皆已導入,但用於 warm 層與通用容量型負載,且無規模、廠商名 不可引為 Meta 大幅追加訂單;QLC 供應品質差異大(失效率 2.9 對 11.7,單位未標) 中
外部 IP 廠路線分歧:Marvell SBD、創意 GLink、聯發科 UCIe/Mlink 標準尚未收斂;創意與 Marvell 在 D2D、HBM 介面 IP 直接競爭 中

反證條件

  • CXL 池延後或停在 POC:看 2027 Samsung 池是否出樣、SK hynix MARS 是否由客製試點進入客戶部署。
  • SSD 耐久不足使 KV 停留在 DRAM/CXL:看各家 DWPD 規格與 FDP 在客戶環境能否重現 WAF 下降。
  • HBM 容量提升削弱分層需求:看下一代 GPU 的 HBM 容量與 zHBM 進度。
  • 垂直整合排擠外部控制器:看三大廠 eSSD 在 hyperscaler 占比。
  • UCIe 成為事實標準:GLink、SBD 差異化縮小。
  • 聯發科 Q4 出貨或營收修正不如預期:簡報僅為公司自述預測。

依據

關鍵 Claim

Claim 類型 來源 日期 信心
Qwen3-14B 10 分鐘 TTL,每 GPU KV 約 781GB;每 GPU 日寫入最高約 57.5TB;最小容量 SLC 0.29/TLC 14.4/QLC 28.8TB,OP/ZNS 後 4.8/8.8TB estimate 報告_OCP2026_SK海力士_儲存作為LLM效能層_20261015 2026-10 中
SSD TTFT 為記憶體 1.26–1.92 倍,調校後 1.07–1.14 倍(H100、微基準) 自測 同上 2026-10 中
MARS:TTFT 平均 80.76→15.45 秒(CXL DDR),遠端 SSD 33.56 秒;相對重算 3.5–5.2 倍;模型與硬體未載 自測 報告_OCP2026_SK海力士_MARS記憶體中心機櫃_20261015 2026-10 中
HBF:Spec 1.0 預期 2027-01、Cube 2028 Q1;卡級頻寬 0.5x、容量 14x;19M tokens/user 峰值在 batch 8 時程/自測 同上 2026-10 中
Arcee 流量樣本 TTFT 398 對 709ms(約 1.78 倍,文字寫 1.4x 不符);tokenization 130→6ms 自測 報告_OCP2026_SK海力士_運算共享記憶體池_20261015 2026-10 中
Llama-3.1-8B、H200、16 users:TTFT 重算 5,933/SSD 4,243/DRAM 2,162/Structera A 1,199ms 自測 報告_OCP2026_Marvell_XPU級可組合記憶體Fabric_20261015 2026-10 中
HBM 約占 XPU 30% 面積、>50% 成本;cHBM 回收至多 25% 面積;HBM5 約 100W/堆疊;SBD 64Gbps/wire、功耗 -75% 廠商論述/預測 報告_OCP2026_Marvell_客製HBM系統_20261015 2026-10 中
GLink-LL 0.05–0.10 pJ/bit、1–3ns;GLink-3D 2.0 50 Tbps/mm²;HBM4E 16Gbps PHY 就緒;HBM5 2029 量產;DRAM on Compute 32 對 24 TBps 自測/規劃 報告_OCP2026_創意_AI運算記憶體連接擴展_20261015 2026-10 中
聯發科 2026 資料中心營收 $1B 劃改 $2B;TAM $70–80B(2028 改 2027);市占 15–20%;首個量產設計 2026 Q4 出貨 公司自述預測 報告_OCP2026_聯發科_資料中心晶片效率_20261015 2026-10 中
MS 轉述「3.5D 約 10x die-to-die 能效」在聯發科簡報 p11、p12 查無 查證 同上 2026-10 中
Meta QLC:單碟 122.88–245.76TB;WAF 3–5x;Placement ID 有效 DWPD 0.17→0.96;失效率廠商 A 2.9 對廠商 B 11.7(單位未標) 機隊實況 報告_OCP2026_Meta_QLC儲存_20261015 2026-10 中
Meta CXL:Caching 吞吐 +25%、分散式快取延遲 -29%、DevInfra VM/台 +33%(皆未給配置) 機隊實況 報告_OCP2026_Meta_CXL超大規模部署_20261015 2026-10 中
Micron:約 400GB 起重用率飽和;並行 64 崩落;重用 0.1→1 時 TTFT 60.10→5.77 秒 建模/圖讀值 報告_OCP2026_Micron_KVCache卸載分層記憶體模型_20261015 2026-10 中
Samsung:CXL 對 RDMA TTFT 650→200ms、吞吐 7→14 req/s;FDP WAF 3.4→1.1;CMM-D MD310 可 POC、MD320 開發中;2027 池 20TB/5TB/s;zHBM 對 HBM5 頻寬 4–8x 自測/路線圖(影片字幕) video_OCP2026_Samsung_代理記憶體分層KVCache_20261015、video_OCP2026_Samsung_高擴展記憶體_20261015 2026-10 中至低
Samsung 2030 十層階層(L0–L4)無規格與年份 願景 報告_OCP2026_Samsung_2030推論資料中心記憶體Pod_20261015 2026-10 低
MS:微通道蓋板(microchannel lid)展示凸顯機櫃功率密度上升時晶片級熱設計的重要性;CXL fabric switch 連接多主機共享記憶體尚需時間成熟;Muse 可能推升儲存伺服器需求(OCR 文字,指涉待核對) analyst 報告_MS_OCP峰會2026半導體總結_20261018 2026-10-18 低至中

台股證據分級

公司 證據強度 備註
2454_聯發科(市) 展示+公司自述 客戶未具名,不連特定客戶
3443_創意電子(市) 展示+公司自述 GLink-3D「已用於客戶 AI ASIC」未具名;HBM4E PHY「就緒」
2330_台積電(市) 合作開發 平台夥伴
6669_緯穎(市) 僅 logo/展示 創意簡報托盤照片標示
8299_群聯(市) 推論 簡報未點名;FDP/遙測門檻;垂直整合打折
慧榮(SIMO,美股) 推論 簡報未點名
3260_威剛(市)、5289_宜鼎(櫃) 推論 高密度 QLC 取得難、Samsung 自有品牌,雙面影響
2408_南亞科技(市) 推論 標準 DDR5/LPDDR 受益容量敘事;zHBM/客製 HBM 為三大廠領域

驗證清單

追蹤指標 為什麼重要
HBF Spec 1.0(預期 2027-01) 驗證 SK hynix 時程,並比對 GS 的 CY27 樣品說法
Samsung CMM-D MD320 進度、2027 次世代 20TB 池 CXL 池由 POC 走向量產的最近訊號
創意 COUPE 與 GLink-3D 客戶揭露 由自述變成可查證客戶與量產
聯發科 2026 Q4 首個量產設計出貨與營收修正 驗證 $2B 上修是否轉成財報
Meta QLC 導入規模與廠商 目前無規模;有揭露才能評估 eSSD 控制器與模組廠
FDP 在 eSSD 規格中的普及 決定外部控制器廠是否有進入門檻差異

信心水準與假設

  • 信心:中。方向多場一致;量化全為廠商自測、口徑各異;台廠受惠多為推論。
  • 假設:各家自測不可互比;Samsung 兩場為影片字幕,部分型號(如 MD220)與數字(如口述 392TB QLC)待核,需求端數字(140EB、18TB 等)來源未驗證。
  • 已知口徑問題:SK hynix 運算共享池文字 1.4x 與圖 1.78x 不符;Meta QLC 失效率單位未標;Marvell 頻寬圖為二手引用;創意 GLink-3D 標 silicon proven 但同簡報稱 N2P 為設計挑戰。
  • 並列矛盾:HBF 時程(SK hynix vs GS)、CXL 頻寬論(SK hynix 論文 0.2% vs Marvell 自測)、SSD 近 DRAM(1.07–1.14x vs 慢 3.5x)、HBM 面積占比(Marvell 30% vs SemiAnalysis 16%)、HBM5 規格(Marvell vs 創意)。

相關

相關頁面