🌐 NVIDIA 2025 GTC 演講總整理:黃仁勳揭示 AI 工業革命全面啟動
Rubin:900(比 Hopper 快 900 倍)

🌐 NVIDIA 2025 GTC 演講總整理:黃仁勳揭示 AI 工業革命全面啟動

在 2025 年的 NVIDIA GTC 大會上,黃仁勳揭示了 AI 工業革命的全面啟動,表示我們已進入能推理與行動的 Agentic AI 時代。他發表新一代 Blackwell 架構 GPU,推理效能比前代暴增 25 倍,並強調未來的「AI 工廠」將以生產知識型 Token 為主,透過新作業系統 NVIDIA Dynamo 實現智慧化運作。未來硬體路線圖中,Rubin 與 Rubin Ultra 預計在 2026、2027 年問世,效能將達 15 ExaFLOPS。NVIDIA 同時推出 NIM 架構,讓模型部署如同使用雲端函式一樣簡便,並整合 Omniverse 與數位雙胞胎進行虛實整合模擬。黃仁勳強調,AI 不只停留在雲端,而是全面進軍邊緣運算、自駕車、5G 等應用場景,為企業帶來更低成本、更高效能的智慧生產時代。

Continue Reading 🌐 NVIDIA 2025 GTC 演講總整理:黃仁勳揭示 AI 工業革命全面啟動
DeepSeek 大型語言模型於硬體平台上高速運算關鍵條件與展望報告
DeepSeek 大型語言模型於硬體平台上高速運算關鍵條件與展望報告

DeepSeek 大型語言模型於硬體平台上高速運算關鍵條件與展望報告

主要探討了 NPU 與 GPU 兩大平台在低精度運算、模型架構硬體友好性、內存與數據流管理、專用軟體生態與工具鏈支援以及協同優化算法等面向的技術挑戰與成熟度評估,指出目前 NPU 的各項技術約介於 3 至 4 分之間,相較之下 GPU 則因其完善的軟硬體生態已達 5 分水準,預計 NPU 若要全面追平需約 3 至 5 年的技術進步;此外,報告亦針對 DeepSeek 結合 Ollama 平台在 AMD 消費級 GPU 上進行推論運算的實際表現進行比較,發現其運行穩定但效能普遍比 Nvidia 同級產品低約 10% 至 20%,整體呈現出未來隨著生態與工具優化,無論在邊緣運算還是商用應用上,都有望達到更省電、高效能的運算表現​。

Continue Reading DeepSeek 大型語言模型於硬體平台上高速運算關鍵條件與展望報告

NVIDIA CEO Jensen Huang Keynote at COMPUTEX 2024 中文翻譯文章

在2024年的COMPUTEX展會上,NVIDIA的CEO黃仁勳介紹了最新的Blackwell晶片和DGX系統。這些新技術顯著提升了計算能力和效率,其中Blackwell晶片可以集成到DGX系統中,並採用了風冷或液冷散熱方案。新系統MGX採用了模塊化設計,能夠容納多達72個GPU,通過NVLink Switch連接,實現了數據傳輸和運算性能的飛躍。這些創新使得訓練大型語言模型的能耗大幅降低,性能提升超過摩爾定律的預期,展示了過去八年內在計算技術領域取得的驚人進步。

Continue Reading NVIDIA CEO Jensen Huang Keynote at COMPUTEX 2024 中文翻譯文章
AI推論使用GPU、DDR4、AI 100 SSD的傳輸量非正式比較
AI 推論性能比較

AI推論使用GPU、DDR4、AI 100 SSD的傳輸量非正式比較

這篇文章比較了使用不同硬體配置在 AI 推論中的數據傳輸速率和效能。主要比較了 GPU(RTX 4090、RTX 3090、RTX 3080)、PC DDR4 DRAM 以及 AI 100 SSD 的性能。結果顯示,GPU VRAM 擁有最優越的數據傳輸能力,特別是 RTX 4090 在處理大規模數據時表現最佳。而 DDR4 DRAM 和 SSD 在面對高強度運算需求時顯得不足。總結來說,高性能 GPU 是 AI 運算效率的最佳選擇。

Continue Reading AI推論使用GPU、DDR4、AI 100 SSD的傳輸量非正式比較
GeForce RTX 20/30/40/50 系列 GPU 顯示卡多種規格清單
RTX 40 系列的規格表

GeForce RTX 20/30/40/50 系列 GPU 顯示卡多種規格清單

GeForce RTX 40 系列 GPU 顯示卡包含多款型號,其最大記憶體為 24GB GDDR6X,電源需求高達 600W,CUDA 核心最多可達 18432 個,運算性能高達 90 TFLOPS。該系列顯示卡採用 GDDR6X 記憶體,相比上一代的 GDDR6,擁有更高的記憶體頻寬和速度,從而提升遊戲效能。此外,這一系列也支持光線追蹤技術,帶來更加逼真的光影效果。例如,GeForce RTX 4090 Ti 擁有 24GB GDDR6X 記憶體和 384 位元記憶體頻寬,適合追求最高畫質遊戲的玩家。而 GeForce RTX 4080 16GB 版本則是為追求高畫質遊戲體驗的玩家設計,具有更大的記憶體容量。整體來說,GeForce RTX 40 系列顯示卡為不同需求的玩家提供了多種選擇。

Continue Reading GeForce RTX 20/30/40/50 系列 GPU 顯示卡多種規格清單
趣味的比喻:GPU 和 NPU
趣味的比喻:GPU 和 NPU

趣味的比喻:GPU 和 NPU

在現代計算領域,GPU和NPU扮演著不可或缺的角色。通過趣味比喻,我們將GPU視為萬能的瑞士刀,它的多功能性讓它在各種任務上都能派上用場,從圖形渲染到複雜的科學計算。而NPU則被比作專業的外科手術刀,憑藉其高效性和精準度,在AI和機器學習領域展現出其獨特的價值。兩者的協同工作,如同足球隊中的全能球員與專門的射手,共同推動技術進步。在選擇GPU還是NPU時,需根據具體任務的需求來決定,就像選擇瑞士刀還是外科手術刀一樣。展望未來,GPU和NPU的融合與創新將如同科技界的“變形金剛”,不斷進化以適應新興的應用場景,推動計算技術向更高效、更專業化的方向發展。

Continue Reading 趣味的比喻:GPU 和 NPU

End of content

No more pages to load