國泰證期研究部 NVIDIA GTC Berlin Call Memo 20261021
重點摘要 1. 推DSX Pod加速AI工廠部署。 2. 推OpenShell確保代理安全。 3. Hyperion新增4家車廠品牌。
營運成果 1. 過去一年NVIDIA在歐洲投資近100億美元,涵蓋新創與大小型合作案;本週行經法國、英國、瑞典至柏林期間,宣布投資14家新創公司,目前在歐洲累計合作夥伴超過12,000家。
-
Vera Rubin已全面量產,為無纜線、無電線、100%液冷的設計。Grace Blackwell單一節點組裝約需2小時,且僅80%液冷;Vera Rubin組裝時間縮短至5分鐘以內,可提升製造週期與可靠度。NVLink Switch Tray可將72顆GPU連接成一顆巨型GPU,每顆GPU為20 PFLOPS。
-
從Pascal、Volta、Ampere、Hopper、Blackwell到Vera Rubin共六代架構,過去10年AI效能提升100萬倍,同期Moore's Law約僅能帶來100倍提升;Blackwell在大型語言模型處理上約為Hopper的30倍,Vera Rubin在兩年內再較Blackwell提升30倍,主要來自從晶片、系統、系統軟體、演算法到整座AI工廠的極致協同設計(extreme co-design)。
-
Vera CPU每時脈可執行8道指令,搭載全球首款採LPDDR的記憶體系統,兼顧高頻寬與能源效率,晶片內互連(on-chip fabric)速度為業界最快,主要用於資料處理與啟動、處理代理式工作階段(agentic session)。
-
Spectrum-X為全球首款共同封裝光學(CPO)乙太網路交換器,雷射經光學元件直接連接至晶片,採與台積電共同開發的COUPE製程,將矽光子直接接在晶片上,不經PCB與傳統光收發模組,目前已進入量產,規格為512埠、每埠200Gb/s。
-
NVL72將原本須在現場組裝的機櫃移至供應鏈內完成組裝,等同大規模製造超級電腦,使NVIDIA能同時支援全球數百座資料中心建置,目前全球所有電腦製造商皆已生產NVL72。
-
經過近8年開發,NVIDIA上週與Nokia在T-Mobile網路上完成首通商用通話,CUDA已能以傳統方式處理通話,後續可在其上疊加AI。
-
OpenShell發表後,從前沿AI實驗室、作業系統、資安到平台公司,幾乎全球主要企業皆已採用;Anthropic與NVIDIA合作推出Claude OpenShell代理。
營運展望 9. AI為新的工業革命,將改變製造方式與可製造的產品,每家公司都將由AI驅動。AI本質上是製造業,可視為五層蛋糕:能源驅動先進運算,運算構成AI工廠並產生token,token來自運行其上的模型,再整合至AI原生新創公司,且每一層都有成長。模型層不只語言模型,也涵蓋生物、化學、物理、機器人動作與動畫等模態。
-
未來每家電信業者約10萬個基地台、合計約100GW的分散式基地台與資料中心,都將演進為分散式AI網路;AI也可大幅提升頻譜效率。
-
1GW AI工廠成本約500億美元,涵蓋土地、電力、廠房、運算、網路、儲存、電力與冷卻。DSX為與全球基礎設施業者共同開發的全端AI工廠參考架構,從數位分身開始,在動工前即以虛擬方式驗證效能、電力、用水與規模,合作夥伴包括PTC、Dassault Systèmes、Schneider Electric、Jacobs、Siemens與Procore。DSX的端到端電力控制迴路可依工作負載動態調配電力,在相同產出下少用30%電力;Vera Rubin支援冷卻液溫度最高45°C的閉迴路液冷,在適合的氣候下可用室外乾式冷卻器排熱、不需蒸發水,2GW規模每日可節省5,400萬公升用水,相當於18萬戶家庭的每日用水量。
-
新推出DSX Pod,以Vera Rubin NVL72為基礎,由7座液冷運算機櫃與17公里的Spectrum-X纜線組成,在工廠內完成整合、佈線與測試後,以可運輸的貨櫃交付,採乾式冷卻器並以800V DC供電至機櫃;場址公用設施就緒後,現場部署時間預估可從數個月縮短至數天。若以1GW AI工廠每年約400億美元營收計算,延遲3個月即損失約100億美元營收;DSX Pod將組裝、測試與燒機移至供應鏈內完成,從運算設備到貨至產出token的時間可望從約4~5個月縮短至約1個月,減少閒置運算與閒置資本支出。
-
NVIDIA的差異化在於兩點,一是唯一通用型的加速運算架構,不只針對Transformer等單一演算法,而是涵蓋流體、粒子、量子化學、影像處理與資料處理等所有可平行化的運算,且架構維持一致長達二十五年;二是以全端AI工廠方式交付,多數公司只想部署AI基礎設施,無法自行設計晶片與撰寫軟體。客戶涵蓋CSP、AI原生公司、Neocloud(如Mistral、Nebius)、OEM/ODM、AI實驗室(OpenAI、Anthropic、Meta Muse、Grok、Gemini)與汽車、醫療、金融等終端產業,架構具可替代性(fungible)、耐用與高生產力,可用於資料處理、訓練、後訓練、推論與代理式處理等各階段。
-
今年初OpenClaw帶動開源代理風潮,代理需要思考、推理、迭代與使用工具,token用量大幅增加,GPU需求也隨之大增。代理由五個元素組成,包括模型、harness、harness所在的沙盒、知識與工具;Vera Rubin已從處理大型語言模型延伸至處理整個代理,分別由GPU處理模型、Vera處理harness與資料處理、CUDA-X運算處理工具。
-
OpenShell為安全的代理執行環境,可依政策在系統呼叫、檔案存取與網路連線層級進行管控,並以形式化驗證確保每次政策變更不超過權限上限;每個代理在獨立沙盒中執行、無直接網路路徑,所有對外請求須經沙盒外的supervisor審核,金鑰也保留在supervisor端。選配的NVIDIA Sentry在BlueField-4上執行,於硬體隔離的信任域監控代理活動,若偵測到非預期行為可在毫秒內切斷與模型的連線並隔離代理,同時保留防竄改紀錄。OpenShell以Apache 2.0授權開源,可從邊緣到雲端部署,兩道指令即可導入。
-
未來企業將同時使用封閉模型與自行客製的開放模型。NVIDIA提供Nemotron(語言)、Cosmos(世界基礎模型)、GR00T(人形機器人)、Alpamayo(自動導航)、Ising(量子與古典運算)與Earth-2(物理AI)等開放模型,除開放權重外,也提供訓練資料與重現所需的腳本。Nemotron本身未必是最前沿的語言模型,但經合作夥伴以客戶資料後訓練後可達前沿水準,案例包括Base10與CodeRabbit、Harvey、Scale與Skydance、Palantir與Tampa General Hospital等。
-
Agent Knowledge Foundation可將企業的非結構化文件與結構化資料庫轉為代理可用的知識,包括Nemotron Parse、Nemotron Embed、Nemotron Rerank(皆為排行榜第一)與可依結構化資料庫進行預測的Kumo。舉例而言,收到供應商缺貨或延遲通知時,可用Kumo預測受影響訂單與延遲程度,再以向量資料庫搜尋替代零件的工程文件。
-
CUDA-X函式庫共約350個,涵蓋計算微影、訊號處理、資料處理、粒子、流體與稀疏求解器等,相較僅以CPU執行可加速10、50到100倍,是代理執行實際工作所需的工具。案例包括Lila Sciences以Nemotron與BioNeMo設計B細胞淋巴瘤療法並進行數百萬次虛擬實驗、Siemens Erlangen電子工廠以Cosmos與Omniverse進行新品導入與生產規劃、Dassault Systèmes以Nemotron與CUDA-X加速的SIMULIA協助將Volkswagen Golf車門設計調整至Tiguan。AI不會終結軟體與工具公司,反而會帶來更多工具使用者,每家工具公司都將成為代理公司,如Cadence、CrowdStrike、Dassault Systèmes與IQVIA皆在打造代理。
-
實體AI為AI的下一波浪潮,應用包括以無線電波感知並以波束成形互動的電信基地台,以及可即時追蹤腫瘤形狀變化的適應性放射治療系統。
-
每家車廠都將希望讓車輛加入叫車車隊。NVIDIA將Hyperion打造為產業標準架構,包括14顆攝影機、9組雷達、3組LiDAR與多組超音波感測器,搭配雙NVIDIA GPU的AV運算系統,再串接AV軟體與Uber、Bolt、Grab、Lyft等叫車服務,形成大型虛擬車隊;全球每年行駛里程約1兆英里,未來每英里約1~2美元的里程中有許多將來自Robotaxi。本次新增VW廂型車、JLR新車、Volvo車隊與Mercedes下一代車款4個品牌相容Hyperion。
-
人形機器人可能成為最大量的機器人型態與下一個大型產業,標準化型態才能帶動量產與技術飛輪;歐洲在機電整合與精密製造具優勢。實體AI需要三台電腦,分別為訓練模型的電腦、在Omniverse數位分身中學習技能的電腦,以及機器人本體的電腦。NVIDIA與Agile Robots合作推出參考機器人Agile One,預計1Q27推出,出貨時已預先組裝運算單元並整合軟體。
-
與Microsoft合作四年推出RTX Spark新產品線,搭載N1X晶片,涵蓋桌機、筆電與工作站,具1 PFLOPS運算力與128GB記憶體,相當於2016年交付OpenAI的DGX-1;可在本機執行模型、harness、OpenShell並存取知識與工具。另有可執行Windows的DGX Station,具20 PFLOPS與754GB記憶體;DGX Station與RTX Spark應可於2026年底上市。現場示範以Hermes作為harness、搭配Nemotron與OpenAI GPT-6 Astra,結合FreeCAD、Blender、Isaac Sim、Newton物理引擎與Isaac Lab,在RTX Spark上建構並訓練Hugging Face/Pollen Robotics的Microduck機器人。
(僅供本公司內部同仁參考使用,非經本公司事先書面同意,禁止轉發或轉載第三人)