Some of the world’s richest men are competing to build ever-bigger computing clusters for ever-more-powerful AI models. But the contest cannot continue for ever. So scientists are looking for alternatives
economist.com
Could smaller data centres be the future of training AI models?
Distribution of thought
黃仁勳 CES 演講實在太精彩，直接定義了接下來 5 年的 AI 重點發展方向。
簡單來說，就是三大 AI 趨勢、三大硬體支持跟三大軟體支持：
▋三大 AI 趨勢
1. Agentic AI：指的是用在「資訊工作」上的軟體型 AI 助手或代理人（agents），可處理文本、文件、對話、客服、知識管理等事務。
2. Autonomous Vehicle（自動駕駛）：透過大規模訓練與合成資料，可實現自動駕駛功能。
3. Humanoid Robot（人形機器人）：可適應人類現有環境的通用機器人，無需為機器人改造空間。
▋三大硬體支援
1. DGX：資料中心級的 AI 訓練超級電腦，負責「模型訓練」階段，適合大型企業、研發機構、資料科學中心，需要龐大算力進行 AI 模型訓練者。
2. RTX Blackwell：消費者級 RTX 5070~5090（含筆電版），5070 就有現在最強 4090 的算力，而價格竟然只要 $549！（4090 要 $1599，直接降到 1/3 ，真的太過分了！）
3. Project Digits （尚未真正命名，歡迎大家去提案）：使用 Grace Blackwell 架構（GB110），給研究員、工程師的「個人超級電腦」，與聯發科合作開發，預計五月開賣。（黃仁勳密碼？）
▋三大軟體支援
1. NIMs（NVIDIA AI Microservices）：預先訓練好的 AI 模型與微服務，涵蓋影像、語音、語言等。適合中小型企業、開發者、IT 團隊：快速導入各種 AI 功能，不必從頭建置。
2. Nemo：企業「數位員工 Agent」管理系統，用於訓練、微調、監管 AI Agent。適合需要自建 AI 助手的大公司或組織：可將「AI 員工」納入企業流程，建立專屬語料、定義行為守則。
3. Blueprint：提供打造自定義 AI Agent 的開發範本。適合開發者、生態系合作夥伴、創業團隊：可在 Blueprint 基礎上快速二次開發，實作客製化功能。
演講全文我也讓 AI 整理重點放在下面，可以搭配主題去看現場直播影片，有大量動畫跟模擬情境（連結放留言）。
--
▋第一部分：開場與前言 (00:28:03)
1. CES 2025 開場與主題
- 宣傳短片強調 CES 不只是展示未來，更是科技與人性的交融處。
- 科技不僅解決問題，更創造機會，並透過智慧城市、健康醫療、生活體驗等角度，彰顯可能性。
2. Gary Shapiro 登場
- Gary Shapiro（CTA 執行長兼副董事長）歡迎所有人來到 CES 2025。
- 特別提到「當科技與人性結合，任何事情都可能發生」，是 CES 的核心精神。
- 說明本次演講將由 NVIDIA 創辦人兼 CEO Jensen Huang（黃仁勳）帶來，強調他的遠見與對產業的巨大影響。
- 回顧 Jensen Huang 早年在 Denny’s 的工作經歷，並讚揚他如何靠努力與堅持，帶領 NVIDIA 成為世界最具影響力的科技公司之一。
▋第二部分：Jensen Huang（黃仁勳）開場
1. 幽默開場
- Jensen Huang 上台問候觀眾，並展示他在拉斯維加斯穿的「閃亮外套」。
- 點出觀眾所在的畫面是「NVIDIA 的數位孿生（digital twin）」，全部由 AI 生成。
2. NVIDIA 成立與 GPU 演進
- 回顧 1993 年推出的 NV1，試圖將遊戲主機功能帶進 PC。
- 1999 年推出可程式化 GPU，開啟長達 20 年以上的圖形處理革命。
- 2006 年發表 CUDA；2012 年因 AlexNet 應用 GPU 深度學習，催生近年 AI 大爆發。
3. AI 四大階段
- 感知 AI（Perception AI）：理解影像、語音、文字。
- 生成式 AI（Generative AI）：可生成文字、圖像、影片、語音。
- 代理式 AI（Agentic AI）：能夠推理、計畫並執行動作。
- 物理 AI（Physical AI）：能在真實世界移動、操控、互動。
▋第三部分：Transformer 與全新運算典範
1. Transformer 的重要性
- 2018 年 Google BERT 發表，Transformer 模型大幅提升 AI 能力。
- AI 不僅是新增應用，而是「根本改變了整個計算模式」。
- 所有層次（軟體、硬體、雲端、推論、訓練）都受到深度學習與 Transformer 影響。
2. 多模態應用
- AI 如今可理解圖像、文字、聲音、甚至蛋白質序列與物理規律。
- 引發跨領域、跨產業的應用爆炸。
▋第四部分：GeForce 與 AI 的雙向關係
1. 遊戲視覺革命
- 過去 GeForce 幫助深度學習普及，現在 AI 也大幅改造 GeForce。
- 例：即時光線追蹤 + DLSS + 生成幀技術，可用少量像素計算生成高解析度、擬真畫面。
2. 全新 RTX Blackwell 系列
- RTX 5070~5090（含筆電版），採用 Blackwell 架構。
- 性能較前代 Ada Lovelace 躍進數倍，並支援神經材質壓縮等 AI 融合技術。
▋第五部分：AI 大規模需求與「三大 Scaling Law」
1. Pre-training、Post-training、Test-time Scaling
- 擴增資料與模型規模 → 微調與強化學習 → 推理階段動態決定計算量。
- 對 GPU 與雲端算力需求持續增長。
2. Blackwell 資料中心級產品
- 72 顆 Blackwell GPU + MVLink 超級系統，可達 1.2 噸、1.4 exaFLOPS。
- 性能/功耗比提升 4 倍，性能/成本比提升 3 倍。
3. 企業 AI：NIMs、Nemo、Blueprint
- NIMs：封裝好的影像、語音、文字等 AI 模型微服務。
- Nemo：企業「數位員工」管理系統，訓練、評估、布署各種 AI agent。
- Blueprint：開源藍圖，快速打造客製化 Agent。
▋第六部分：NVIDIA Cosmos ─ 世界基礎模型（Physical AI）
1. Cosmos 概念
- 目標是理解與模擬真實物理，包括重力、慣性、摩擦、空間幾何、因果關係。
- 與 Omniverse 結合可產生大量合成資料，用於機器人與自動駕駛訓練。
- Cosmos 採開放授權，上傳至 GitHub。
2. Cosmos 模組
- Auto-Regressive、Diffusion、不同比例模型，以及強大 Tokenizer。
- 可作影片生成、視覺理解、Caption、Robot 動作預測等多種應用。
▋第七部分：自動駕駛（AV）──三電腦策略
1. 三電腦架構
- DGX：訓練 AV AI 模型。
- Omniverse + Cosmos：合成資料與數位孿生。
- Drive AGX：車載 AI 超級電腦。
2. 合作夥伴與技術
- Waymo、Tesla、BYD、Jaguar Land Rover、Mercedes、Toyota 等皆與 NVIDIA 合作。
- Thor 車用晶片：新一代 Orin 升級，效能增至 20 倍。
- Drive OS 獲得 ISO 26262 ASIL-D 功能安全等級。
3. 合成資料助力 AV
- Omniverse 中重建真實道路，配合 Cosmos 產生天氣、光線、突發狀況等。
- 幾千小時實錄可放大成數十億英里虛擬駕駛數據，極大加速自動駕駛訓練。
▋第八部分：General Humanoid Robot 與 Isaac Groot
1. 通用機器人三大類型
- Agentic AI（資訊工作者）、自動駕駛車、人形機器人。
- 人形機器人可直接適應人類現有環境，無需大幅改造設施，但示範動作不易大量收集。
2. Isaac Groot
- 少量人類示範 + Omniverse 合成數據 + Domain Randomization → 大幅增加訓練樣本。
- 提供四大模組：Robot Foundation Models、Data Pipeline、Simulation Framework、Thor Robotics Computer。
▋第九部分：Project Digits ─ 個人化 AI 超級電腦
1. DGX1 歷史回顧
- 2016 年發表 DGX1，讓研究者、新創開箱即用 AI 超級電腦。
- 第一台交付 OpenAI。
2. Project Digits 目標
- 希望所有工程師、研究員、創作者皆可擁有「桌上型 AI 超級電腦」。
- 採用 Grace + Blackwell SoC（GB110），支援完整 NVIDIA AI 方案。
- 預計 2025 年 5 月上市。
▋
第十部分：總結與回顧
1. 三大 Blackwell 系統、Cosmos 上線
- MVLink 72（資料中心級）、消費級 RTX、Project Digits（個人超級電腦）皆量產或即將推出。
- Cosmos 世界基礎模型開源，助力 Robotics/自動駕駛等物理應用。
2. 三大機器人形態
- Agentic AI、Autonomous Vehicle、Humanoid Robot。
- 透過 DGX + Omniverse + AGX（三電腦策略）協助工業與自動化發展。
3. 演講結尾
- Jensen Huang 向觀眾致謝，祝大家 CES 愉快。
- 播放回顧影片，展示 NVIDIA 過去一年成就與未來展望。
總結
- AI 已改變整個計算模式，Blackwell 世代 GPU 全面登場。
- Omniverse + Cosmos 將推進機器人與自動駕駛應用。
- 三大機器人形態：Agentic、AV、人形機器人；未來將透過高效能 AI 與數位孿生技術全面落地。
沒有留言:
張貼留言