黄仁勋于 Computex 大秀 Blackwell！Blackwell 是什么？NVIDIA 与 AWS 共同开发的超级电脑又是什么？

随着人工智慧技术的快速发展，生成式 AI（Generative AI）时代已经来临。在台北国际电脑展（Computex）上， NVIDIA 创办人暨执行长黄仁勋正式发布了新一代 Blackwell GPU 架构，标誌着这个新纪元的到来。 Amazon Web Services（AWS）与 NVIDIA 在去年 AWS re:Invent 全球盛会上宣布扩大策略合作，携手推出先进的基础设施、软体及服务，推动客户在生成式 AI 领域的创新发展。

黄仁勋发布 Blackwell ，引领生成式 AI 新纪元

在 2024 GTC 大会上，黄仁勋正式发布了新一代 Blackwell GPU 架构，标誌着生成式 AI 时代的来临。 Blackwell 具备六项革命性技术：

1. 世界最强大的晶片： 采用台积电客制化 4 奈米制程制造，配备 2080 亿个电晶体，两倍光罩尺寸 GPU 裸晶透过 10 TB/s 的晶片到晶片互连（Chip-to-Chip Interconnect）连接成单个、统一 GPU 。
3. 第二代 Transformer 引擎： 支援新的微张量扩展（Micro Tensor Extension），并与 NVIDIA TensorRT-LLM 和 NeMo Megatron 框架整合，可支援 4 位元浮点 AI 推论，加倍运算和模型尺寸。
5. 第五代 NVLink： 每个 GPU 提供惊人的 8TB/s 双向吞吐量，确保高达 576 个 GPU 之间的高速沟通，加速多兆参数和混合专家 AI 模型（Mixture-of-Experts AI Models）的效能。
7. RAS 引擎： 包含专用的可靠性、可用性和可服务性（Reliability ， Availability ， and Serviceability ， RAS）引擎，并利用基于 AI 的预防性维护来运行诊断和预测可靠性问题。
9. 安全 AI： 先进的机密运算（Confidential Computing）功能可在不影响效能的情况下保护 AI 模型和客户资料。
11. 解压缩引擎： 专用解压缩引擎支援最新格式，加速资料库查询，提供资料分析和资料科学的最高效能。

Blackwell 可支援兆级参数的大型语言模型（Large Language Models ， LLMs），并将成本和能源消耗降低多达 25 倍，推动生成式 AI 的发展。黄仁勋表示，个人电脑产业将重启进入新时代，而 NVIDIA 就是 AI 产生器的引领者。

AWS 与 NVIDIA 合作，打造生成式 AI 新基础设施

透过这项深入合作， AWS 和 NVIDIA 将共同打造全新的 AI 运算基础架构，为客户提供灵活、可扩展的云端资源，加速生成式 AI 创新应用的开发和部署。亚马逊总裁暨执行长 Andy Jassy 表示：「我们与 NVIDIA 的深度合作可以追溯到 13 年前，当时我们在 AWS 上推出了世界上第一个 GPU 云端实例。今天，我们在云端的任何地方提供最广泛的 GPU 解决方案，支援世界上技术最先进的加速工作负载。这就是为什么新的 NVIDIA Blackwell GPU 将在 AWS 上运作得如此出色，也是 NVIDIA 选择 AWS 共同开发 Project Ceiba 的原因，该专案将 NVIDIA 的下一代 Grace Blackwell 超级晶片与 AWS Nitro System 先进的虚拟化技术和超高速 Elastic Fabric Adapter 网路结合，用于 NVIDIA 自己的 AI 研发。 透过 AWS 和 NVIDIA 工程师的共同努力，我们将继续共同创新，使 AWS 成为任何人在云端中运行 NVIDIA GPU 的最佳场域。」

AWS 与 NVIDIA 云端软体支援加速生成式 AI 研发

除了硬体基础设施， NVIDIA 也在软体层面提供全面的支援，加速生成式 AI 的研发进程。在 AWS 云端上运行的 NVIDIA 软体生态系统，能够简化模型开发、训练和部署的流程。

1. NVIDIA NeMo 框架：NVIDIA NeMo LLM 框架、NeMo Retriever 和 BioNeMo 等工具，能够加速自订生成式 AI 模型、语意检索和新药开发等应用的发展。研发团队可以利用这些工具快速构建和优化模型，缩短上市时间。
3. Amazon Titan 大型语言模型：AWS 正运用 NVIDIA NeMo 框架训练新一代 Amazon Titan 大型语言模型，这款模型将提供更强大的自然语言处理能力，为 AWS 的语音助理 Alexa 等服务提供动力。
5. NVIDIA Omniverse Isaac：Amazon Robotics 开始运用 NVIDIA Omniverse Isaac 打造数位分身（Digital Twins），透过仿真和优化，推动自主仓库的自动化、最佳化和规划，提高效率和降低成本。

透过黄仁勋发布 Blackwell GPU 架构和 AWS 与 NVIDIA 的合作，不难看出生成式 AI 的下一个时代已经来临。双方携手推出的新基础设施、软体和服务，将可以加速各行业在生成式 AI 领域的创新发展，为人工智慧技术带来全新的发展契机。