在2024年的COMPUTEX展會上，NVIDIA的CEO黃仁勳介紹了最新的Blackwell晶片和DGX系統。這些新技術顯著提升了計算能力和效率，其中Blackwell晶片可以集成到DGX系統中，並採用了風冷或液冷散熱方案。新系統MGX採用了模塊化設計，能夠容納多達72個GPU，通過NVLink Switch連接，實現了數據傳輸和運算性能的飛躍。這些創新使得訓練大型語言模型的能耗大幅降低，性能提升超過摩爾定律的預期，展示了過去八年內在計算技術領域取得的驚人進步。
這篇文章比較了使用不同硬體配置在 AI 推論中的數據傳輸速率和效能。主要比較了 GPU（RTX 4090、RTX 3090、RTX 3080）、PC DDR4 DRAM 以及 AI 100 SSD 的性能。結果顯示，GPU VRAM 擁有最優越的數據傳輸能力，特別是 RTX 4090 在處理大規模數據時表現最佳。而 DDR4 DRAM 和 SSD 在面對高強度運算需求時顯得不足。總結來說，高性能 GPU 是 AI 運算效率的最佳選擇。
這篇文章介紹了如何利用家用電腦和AI技術來處理和活化10萬張家庭照片。作者先提到這個項目的動機，包括製作畢業紀念冊和使用AI為照片生成文字描述。文章詳細描述了使用開源AI模型和工具（如API、Python程式、Linux系統等）來自動生成照片描述和關鍵字，並將結果存入資料庫中，使家庭成員能隨時隨地透過網路瀏覽這些經過AI處理的照片。
隨著人工智慧（AI）技術的進步和普及，資深軟體工程師需要調整他們的職業角色以應對新的挑戰。本文提出了幾個策略，幫助工程師利用AI的優勢，轉化工作方式並增強專業能力。
AI不應被視為替代工具，而是一種可以強化工程師專業技能的機遇。
資深工程師應該擁抱AI帶來的變革，將其視為提升工作效率和探索新增長點的工具。透過創新思維和積極態度，資深工程師可以不僅在AI時代中生存下來，引領企業運用全新技術提高效率、降低成本、讓企業持續茁壯持續成長。
2024年Nvidia GTC全球開發者大會精彩亮點包括數據中心現代化、生成式AI的崛起、Blackwell電腦、Nims軟體分發新方式等。大會展示了未來機器人技術的蓬勃發展，尤其是數字孿生平台Omniverse將成為機器人世界的操作系統。Nvidia創始人兼CEO Jensen Huang將Nvidia定位為一個願景公司，覆蓋從輔助生活到生成虛擬場景探索真實世界等多個領域。CUDA技術和AI的結合開創了AI的新紀元，而Nvidia的DGX-1 AI超級電腦更是促進了AI領域的發展。
本文從五個關鍵問題出發，探討了ChatGPT為何在美國而非其他國家誕生的原因。首先，美國在科技創新和人工智慧研究領域具有領先地位，這得益於其強大的經濟基礎、豐富的資源以及領先的大學和研究機構。其次，OpenAI由著名科技企業家伊隆·馬斯克（Elon Musk）和山姆·奧特曼（Sam Altman）等創立，旨在推動人工智慧的正面發展並確保技術的安全共享。
以下是 2024年3月6日，關於Jensen Huang（NVIDIA創辦人兼CEO）的訪談摘要（原文影片連結 https://youtu.be/lXLBTBBil2U?si=YtMR68pSdzYtAvTO）。Huang分享了自己從LSI Logic轉戰創業的決定，及與Chris和Curtis共同創辦公司的過程。他們希望解決通用計算機無法處理的問題，進而創造一個新的計算平台。NVIDIA的使命是開發能夠處理這些特殊問題的電腦，至今公司依然秉持這一宗旨。
本文深入探討了在OpenAI與Figure合作開發的人形機器人基礎上，未來發展的可能性。透過與ChatGPT v4的對話推論，作者提出了一系列關於人形機器人進化的預測。
首先，預計人形機器人將達到前所未有的自主性和智慧化水平。借助於人工智慧與機器學習的快速發展，這些機器人將能夠處理更加複雜的決策問題，並靈活應對多樣化的環境挑戰。在應用層面，人形機器人的作用範圍將廣泛擴至醫療護理、家庭服務、教育互動等多個領域，實現與人類更自然的互動和更深層次的需求理解。