文/DIGITIMES
圖／ DIGITIMES
隨著人工智慧技術的快速發展，生成式AI（Generative AI）時代已經來臨。在台北國際電腦展（Computex）上，NVIDIA創辦人暨執行長黃仁勳正式發布了新一代Blackwell GPU架構，標誌著這個新紀元的到來。Amazon WebServices（AWS）與NVIDIA在去年AWS re:Invent全球盛會上宣布擴大策略合作，攜手推出先進的基礎設施、軟體及服務，推動客戶在生成式AI領域的創新發展。
黃仁勳發布Blackwell，引領生成式AI新紀元
在2024 GTC大會上，黃仁勳正式發布了新一代Blackwell GPU架構，標誌著生成式AI時代的來臨。Blackwell具備六項革命性技術：
1. 世界最強大的晶片： 採用台積電客製化4奈米製程製造，配備2080億個電
晶體，兩倍光罩尺寸GPU裸晶透過10 TB/s的晶片到晶片互連（Chip-to-
Chip Interconnect）連接成單個、統一GPU。
2. 第二代Transformer引擎： 支援新的微張量擴展（Micro Tensor
Extension），並與NVIDIA TensorRT-LLM和NeMo Megatron框架整合，可
支援4位元浮點AI推論，加倍運算和模型尺寸。
3. 第五代NVLink： 每個GPU提供驚人的1.8TB/s雙向吞吐量，確保高達576個
GPU之間的高速溝通，加速多兆參數和混合專家AI模型（Mixture-of-
Experts AI Models）的效能。
4. RAS引擎： 包含專用的可靠性、可用性和可服務性（Reliability，
Availability， and Serviceability， RAS）引擎，並利用基於AI的預防性維
護來運行診斷和預測可靠性問題。
5. 安全AI： 先進的機密運算（Confidential Computing）功能可在不影響效能
的情況下保護AI模型和客戶資料。
6. 解壓縮引擎： 專用解壓縮引擎支援最新格式，加速資料庫查詢，提供資料
分析和資料科學的最高效能。
Blackwell可支援兆級參數的大型語言模型（Large Language Models， LLMs），
並將成本和能源消耗降低多達25倍，推動生成式AI的發展。黃仁勳表示，個人電
腦產業將重啟進入新時代，而NVIDIA就是AI產生器的引領者。
AWS與NVIDIA合作，打造生成式AI新基礎設施
透過這項深入合作，AWS和NVIDIA將共同打造全新的AI運算基礎架構，為客戶提供靈活、可擴展的雲端資源，加速生成式AI創新應用的開發和部署。亞馬遜總裁暨執行長 Andy Jassy 表示：「我們與 NVIDIA 的深度合作可以追溯到 13 年前，當時我們在 AWS 上推出了世界上第一個 GPU 雲端實例。今天，我們在雲端的任何地方提供最廣泛的 GPU 解決方案，支援世界上技術最先進的加速工作負載。這就是為什麼新的NVIDIA Blackwell GPU 將在 AWS 上運作得如此出色，也是 NVIDIA選擇 AWS 共同開發 Project Ceiba 的原因，該專案將 NVIDIA 的下一代 GraceBlackwell 超級晶片與 AWS Nitro System 先進的虛擬化技術和超高速 ElasticFabric Adapter 網路結合，用於 NVIDIA 自己的 AI 研發。 透過 AWS 和 NVIDIA工程師的共同努力，我們將繼續共同創新，使 AWS 成為任何人在雲端中運行NVIDIA GPU 的最佳場域。」
AWS 與 NVIDIA雲端軟體支援加速生成式AI研發
除了硬體基礎設施，NVIDIA也在軟體層面提供全面的支援，加速生成式AI的研發進程。在AWS雲端上運行的NVIDIA軟體生態系統，能夠簡化模型開發、訓練和部署的流程。
1. NVIDIA NeMo框架：NVIDIA NeMo LLM框架、NeMo Retriever和BioNeMo
等工具，能夠加速自訂生成式AI模型、語意檢索和新藥開發等應用的發展。
研發團隊可以利用這些工具快速構建和優化模型，縮短上市時間。
2. Amazon Titan大型語言模型：AWS正運用NVIDIA NeMo框架訓練新一代
Amazon Titan大型語言模型，這款模型將提供更強大的自然語言處理能力
，為AWS的語音助理Alexa等服務提供動力。
3. NVIDIA Omniverse Isaac：Amazon Robotics開始運用NVIDIA Omniverse
Isaac打造數位分身（Digital Twins），透過仿真和優化，推動自主倉庫的
自動化、最佳化和規劃，提高效率和降低成本。
透過黃仁勳發佈Blackwell GPU架構和AWS與NVIDIA的合作，不難看出生成式AI
的下一個時代已經來臨。雙方攜手推出的新基礎設施、軟體和服務，將可以加速各
行業在生成式AI領域的創新發展，為人工智慧技術帶來全新的發展契機。
