在2024年的COMPUTEX展會上，NVIDIA的CEO黃仁勳介紹了最新的Blackwell晶片和DGX系統。這些新技術顯著提升了計算能力和效率，其中Blackwell晶片可以集成到DGX系統中，並採用了風冷或液冷散熱方案。新系統MGX採用了模塊化設計，能夠容納多達72個GPU，通過NVLink Switch連接，實現了數據傳輸和運算性能的飛躍。這些創新使得訓練大型語言模型的能耗大幅降低，性能提升超過摩爾定律的預期，展示了過去八年內在計算技術領域取得的驚人進步。
隨著人工智慧技術發展，智慧助理在企業內部的應用愈加重要，能提高工作效率並推動數位轉型。LangChain 和 Ollama 是兩個熱門的智慧助理技術方案。LangChain 主要針對程式開發人員，具高度可定制性，適合擁有技術團隊的企業。
AI技術在全球各領域發揮了重要作用，包括醫療保健、製造業、交通運輸、農業、金融服務、教育、能源、環境保護、零售業、娛樂、法律、公共安全、人力資源及社交媒體等方面。它協助醫生診斷疾病，提供個性化治療方案，加速藥物研發；推動製造業自動化，提高生產效率和產品品質；應用於自動駕駛和智慧城市交通管理，提升交通安全和減少擁堵；助力智慧農業，提高農業生產效率；進行金融風險管理和欺詐檢測，提供智慧投資建議；提供個性化學習計劃，提升學習效果；最佳化電網運行和可再生能源管理，提高能源利用效率；模擬氣候變化，監測汙染源；分析消費者行為，提供個性化推薦，最佳化庫存管理；輔助內容創作，提升創作效率；快速檢索和分析法律文獻，自動化契約審核；預測犯罪熱點，提高公共安全；篩選求職者簡歷，分析員工表現；過濾不良內容，分析用戶行為，提昇平台收益。AI技術的廣泛應用，正深刻影響各個行業，推動社會進步。
這篇文章比較了使用不同硬體配置在 AI 推論中的數據傳輸速率和效能。主要比較了 GPU（RTX 4090、RTX 3090、RTX 3080）、PC DDR4 DRAM 以及 AI 100 SSD 的性能。結果顯示，GPU VRAM 擁有最優越的數據傳輸能力，特別是 RTX 4090 在處理大規模數據時表現最佳。而 DDR4 DRAM 和 SSD 在面對高強度運算需求時顯得不足。總結來說，高性能 GPU 是 AI 運算效率的最佳選擇。
這篇文章介紹了如何利用家用電腦和AI技術來處理和活化10萬張家庭照片。作者先提到這個項目的動機，包括製作畢業紀念冊和使用AI為照片生成文字描述。文章詳細描述了使用開源AI模型和工具（如API、Python程式、Linux系統等）來自動生成照片描述和關鍵字，並將結果存入資料庫中，使家庭成員能隨時隨地透過網路瀏覽這些經過AI處理的照片。
本文探討了人們如何利用AI聊天來獲取資訊，以及如何提高與AI聊天時獲得有價值資訊的效率。隨著AI技術的進步，AI聊天成為了獲取新聞、天氣、交通等各類資訊的常見方式。文章將AI聊天的使用者分為三個水平：初級、中級和高級，分別對應於問簡單問題、較深入的問題和非常深入的問題。
2024年Nvidia GTC全球開發者大會精彩亮點包括數據中心現代化、生成式AI的崛起、Blackwell電腦、Nims軟體分發新方式等。大會展示了未來機器人技術的蓬勃發展，尤其是數字孿生平台Omniverse將成為機器人世界的操作系統。Nvidia創始人兼CEO Jensen Huang將Nvidia定位為一個願景公司，覆蓋從輔助生活到生成虛擬場景探索真實世界等多個領域。CUDA技術和AI的結合開創了AI的新紀元，而Nvidia的DGX-1 AI超級電腦更是促進了AI領域的發展。
以下是 2024年3月6日，關於Jensen Huang（NVIDIA創辦人兼CEO）的訪談摘要（原文影片連結 https://youtu.be/lXLBTBBil2U?si=YtMR68pSdzYtAvTO）。Huang分享了自己從LSI Logic轉戰創業的決定，及與Chris和Curtis共同創辦公司的過程。他們希望解決通用計算機無法處理的問題，進而創造一個新的計算平台。NVIDIA的使命是開發能夠處理這些特殊問題的電腦，至今公司依然秉持這一宗旨。
GeForce RTX 40 系列 GPU 顯示卡包含多款型號，其最大記憶體為 24GB GDDR6X，電源需求高達 600W，CUDA 核心最多可達 18432 個，運算性能高達 90 TFLOPS。該系列顯示卡採用 GDDR6X 記憶體，相比上一代的 GDDR6，擁有更高的記憶體頻寬和速度，從而提升遊戲效能。此外，這一系列也支持光線追蹤技術，帶來更加逼真的光影效果。例如，GeForce RTX 4090 Ti 擁有 24GB GDDR6X 記憶體和 384 位元記憶體頻寬，適合追求最高畫質遊戲的玩家。而 GeForce RTX 4080 16GB 版本則是為追求高畫質遊戲體驗的玩家設計，具有更大的記憶體容量。整體來說，GeForce RTX 40 系列顯示卡為不同需求的玩家提供了多種選擇。
WiFi 7 在 (2024-02-28) 根據綜合資料研判，WiFi 7在速度、頻道寬度、調製技術、空間數據流和新技術如MLO方面相較於WiFi 6有顯著的提升，使其在支持超高速網路計劃、虛擬實境（VR）/增強實境（AR）應用和降低延遲等方面更為強大。 預計到2027年，全球將有約8億台的WiFi 7設備，展現出WiFi 7技術迅速發展和普及的潛力。這個數字代表了從2024年起的三年內，年複合成長率將達到87%，意味著每年成長幾乎翻一倍。