NVIDIA创办人暨执行长黄仁勋在他于新冠疫情后的首场直播主题演讲为为台北国际记者会开场,并宣布企业可以利用这些平台来驾驭生成式人工智能在当代历史上所掀起的巨大浪潮,这股浪潮改变了从广告、制造到电信等各行各业。
在多年来在线主题演讲(其中一些还是在他的家中的厨房进行)之后,黄仁勋上台时大声宣布:「我们回来了,我已经将近四年没有公开演讲了,祝我好运!」
面对座无虚席的会场,他以将近两个小时的时间向约3500名观众描述加速运算服务、软件和系统如何够创造新的商业模式,并使现有模式更加高效。
黄仁勋过去一周在家乡每天都受到当地媒体追踪,他表示:「加速运算和人工智能重塑了运算的重新创造。」
为展示其强大的能力,他利用背后的巨大8K屏幕,展示了一个由文字提示生成出一首能像卡拉OK一样唱出来的歌曲。黄仁勋偶尔与观众以他的母语台语谈笑,并带着观众一起唱这首新主题曲。
黄仁勋表示:「我们现在正处于一个全新运算时代的转折点,加速运算和人工智能已经被世界上几乎所有的运算和云端公司所接受。」他也分享如今已有40,000家大型公司和15,000家新创公司正使用NVIDIA技术,光去年CUDA软件下载量更达2500万次。
他描述加速运算服务、软件与系统促进诞生出新的商业模式,且让现有模式更具效率。
黄仁勋在满载最新消息的台北国际计算机展COMPUTEX主题演讲中,透露生成式人工智能使得工业数字化更上一层楼。
主题演讲中的重点消息
• Grace Hopper助力配载大型内存的超级计算机,以处理生成式人工智能作业
• 模块化参考架构诞生出百余款加速运算服务器配置
• WPP 与NVIDIA合力在Omniverse平台中开发数字广告内容引擎
• SoftBank和NVIDIA一同在日本建设5G与生成式AI数据中心
• 网络技术加速运作以太网络架构人工智能云端环境
• NVIDIA ACE for Games使用生成式人工智能为人物角色赋予生命
• 全球电子制造商采用NVIDIA人工智能技术
用于 Enterprise AI 的全新引擎
黄仁勋宣布推出具有庞大内存的人工智能超级计算机 DGX GH200,供需要极致人工智能效能表现的企业使用。DGX GH200 使用 NVIDIA NVLink网络技术,将256个 NVIDIA Grace Hopper 超级芯片连接成一个数据中心大小的 GPU。
黄仁勋也宣布GH200超级芯片现已全面投产。它将具有绝佳能效的 NVIDIA Grace CPU与高效能NVIDIA H100 Tensor核心GPU集合在一个模块内。
DGX GH200的运算效能达到 1 exaflop,拥有 144 TB 的共享内存,表现比一具 NVIDIA DGX A100 320GB 系统高出近500倍。这使得开发人员可以用它来开发用于生成式人工智能聊天机器人的大型语言模型、用于推荐系统的复杂算法,以及用于侦测诈欺及数据分析的绘图神经网络。
Google Cloud、Meta与微软率先使用DGX GH200来探索处理生成式人工智能工作负载的能力。
NVIDIA DGX GH200人工智能超级计算机以 1 exaflop的运算效能来处理生成式人工智能的工作量
黄仁勋向台北的听众表示:「DGX GH200人工智能超级计算机整合了 NVIDIA 最先进的加速运算及网络技术,来突破人工智能发展界线。」很多听众在主题演讲开始前已经在场外排队多时。
NVIDIA 同样在打造自家的大型人工智能超级计算机NVIDIA Helios,预计将于今年上线。它将使用 NVIDIA Quantum-2 InfiniBand 网络技术来连结四套 DGX GH200 系统,提供最高每秒 400GB 的带宽,以强化训练大型人工智能模型所需的数据处理能力。
DGX GH200构成了在本次主题演讲中公布数百款使用NVIDIA 最新GPU和CPU之系统的巅峰之作。它们共同将生成式人工智能与加速运算技术交到数百万名用户的手上。
从更大的格局来看,黄仁勋宣布有超过四百款搭载 NVIDIA Hopper、Grace及Ada Lovelace架构的系统配置即将上市。这些计算机将用于处理人工智能、数据科学与高效能运算方面的复杂难题。
无论规模大小均加速前行
黄仁勋宣布推出用于打造加速服务器的模块化参考架构NVIDIA MGX,以满足各种规模大小之数据中心的需求。系统制造商将使用NVIDIA MGX 架构,快速以符合成本效益的方式开发百种以上的服务器配置,以配合多种人工智能、高效能运算及NVIDIA Omniverse应用程序的需求。
MGX让制造商使用通用架构及模块化的零组件来建构CPU架构和加速运算服务器。它在各式气冷式及液冷式机箱中,支持NVIDIA的全线 GPU、CPU、数据处理单元(DPU)及网络卡,以及x86和Arm架构处理器。
云达科技与美超威将率先在八月推出采用MGX设计的机型。美超威在COMPUTEX宣布推出的ARS-221GL-NR 系统将采用Grace CPU,而云达科技同样在COMPUTEX宣布推出的S74G-2U系统则是将使用 Grace Hopper 超级芯片。
永擎电子、华硕、技嘉与和硕联合科技也将使用 MGX 来打造下一代加速运算计算机。
5G/6G呼唤Grace Hopper
黄仁勋在主题演讲中也介绍了NVIDIA如何运用Grace Hopper来重塑 5G和6G 网络以及视讯沟通。现场演示于Grace Hopper上运行的人工智能将让现今的2D视讯通话更像拟真的3D体验,增加临场感。
黄仁勋宣布NVIDIA将与大型电信商SoftBank合力在日本建造分布式数据中心网络,做为推出前述体验的基础。此举将在通用云端平台上提供 5G 服务及生成式人工智能应用程序。
这些数据中心将在模块化MGX系统中使用 NVIDIA GH超级芯片与NVIDIA BlueField-3 DPU,再加上 NVIDIA Spectrum 以太网络交换器,提供 5G 协议要求的高精度计时。这个平台能够提高频谱效率及降低能源消耗量,以达到节约成本的目标。
这些系统将有助于SoftBank探索在自动驾驶、人工智能工厂、扩增及虚拟现实、计算机视觉与数字孪生方面的应用。日后甚至还能用于 3D 视频会议及全息影像通讯上。
加速推动云端环境
黄仁勋另外又宣布推出专为提高以太网络架构人工智能云端环境的效能及效率所设计的网络平台NVIDIA Spectrum-X。它集合 Spectrum-4 以太网络交换器、BlueField-3 DPU 与软件于一身,将人工智能运算效能及电源使用效率提高1.7倍。
包括Dell Technologies、联想及美超威在内的系统构建者现已有在产品中采用 NVIDIA Spectrum-X、Spectrum-4 交换器及 BlueField-3 DPU。
NVIDIA Spectrum-X加速在传统以太网络会遇到性能损失的人工智能工作流程
创作出活灵活现的游戏人物角色
生成式人工智能也对人们如何玩游戏这件事造成影响。
黄仁勋宣布推出 NVIDIA Avatar Cloud Engine(ACE)for Games,开发人员可以利用这项代工服务来建造及部署语音、对话和动画人工智能模型。它将让非玩家角色拥有对话技能,以便能够用真人一般的个性来回答问题,并且还会随剧情不断发展。
NVIDIA ACE for Games 包括用于侦测及将玩家口说内容转成文字的 NVIDIA Riva 等人工智能基础模型。文字提示 NVIDIA NeMo 产生客制化响应内容,并且由 NVIDIA Omniverse Audio2Face 制作成动画。
NVIDIA ACE for Games 提供工具链,透过生成式人工智能创作出活灵活现的人物角色
在 Windows 上加速推动生成式人工智能的发展
黄仁勋表示 NVIDIA 与微软合作推动 Windows PC 在生成式人工智能时代的创新。
全新及更强大的工具、框架和驱动程序,让 PC 开发商更轻松发展及部署人工智能。像是用于优化和部署 GPU 加速人工智能模型,加上全新显示适配器驱动程序的 Microsoft Olive 工具链,将透过 NVIDIA GPU 提高 DirectML 在 Windows PC 上的执行表现。
这项合作将强化与扩大一亿台安装有 RTX GPU 的计算机,这些计算机上的 Tensor 核心能够提高400多款人工智能加速的 Windows 应用程序及游戏的执行效能。
全球规模最大的产业进行数字化
生成式人工智能也将为市值七千亿美元的数字广告业开创出新的商机。
举例来说,全球最大的营销服务公司WPP与NVIDIA合作,在Omniverse Cloud平台上建造首个生成式人工智能内容引擎。
黄仁勋透过展示内容,说明创意团队如何在NVIDIA Omniverse内连结Adobe Substance 3D 这类 3D 设计工具,替客户的产品建立数字孪生模型。接着使用以负责任源数据训练出的生成式人工智能工具,并且透过 NVIDIA Picasso 所建立出的内容,将让创意团队快速产生出虚拟场景。WPP 的客户再来可以利用完整场景为全球市场和用户产生大量广告、影片和 3D 体验内容,以便在任何网络装置上体验。
黄仁勋表示:「运算模式已经改变,今天的广告是检索来的,但未来当你接触信息时,其中很多将是生成的。」
工厂打造人工智能的未来
市值46兆的制造业预估拥有千万座工厂,正是进行工业数字化的绝佳领域。
黄仁勋表示:「世界上规模最庞大的产业生产实体的东西。先用数字化技术来建造它们,可以省下不少宝贵时间与金钱。」
黄仁勋在主题演讲中介绍富士康工业互联网、宜鼎国际、和硕联合科技、广达及纬创资通这些电子制造商使用 NVIDIA 的技术来发展数字化工作流程,以落实打造全数字化智慧工厂的愿景。
他们使用Omniverse及生成式人工智能 API 来链接设计及制造工具,这样就能建造工厂的数字孪生模型。他们还使用NVIDIA Isaac Sim来模拟及测试机器人,以及使用视觉人工智能框架NVIDIA Metropolis来进行自动光学检测作业。
NVIDIA Metropolis for Factories这个最新组件可以用于建立客制化的品管系统,让制造商享有竞争优势。它将协助企业开发最先进的人工智能应用程序。
人工智能加快装配线的动作
例如在全球各地工厂生产笔记本电脑及智能型手机等三百项产品的和硕联合科技,即使用 Omniverse、Isaac Sim 和 Metropolis 来建立虚拟工厂。此举让和硕联合科技可以先在模拟环境里试行制程,协助他们省下不少时间与成本。
和硕联合科技也使用NVIDIA DeepStream软件开发工具包来发展智能影像应用程序,将处理量提升十倍之多。
全球最大科技产品制造商旗下的服务部门富士康工业互联网,与NVIDIA Metropolis合作伙伴携手将其电路板品管检查点的重要环节进行自动化。
听众在开场前数小时排队入场
黄仁勋在影片中介绍广达的子公司达明机器人利用NVIDIA Isaac Sim,将台湾电子代工大厂广达的生产线检查作业调整至最佳状态。该公司本质上是使用模拟机器人来训练机器人如何制造出更好的机器人。
除此之外,黄仁勋宣布协助打造下一代自主移动机器人(Autonomous Mobile Robot,AMR)的全新平台。Isaac AMR 平台用于模拟、部署与管理自主移动机器人。
黄仁勋表示包括凌华科技、安提国际、勤业众信、Quantiphi 与西门子在内庞大的合作伙伴生态系统,协助将这些制造解决方案推向市场。
从这个例子又能看出 NVIDIA 如何利用加速运算技术,协助企业感受到生成式人工智能的优点。
两个小时的演讲结束后,现场响起热烈的掌声,黄仁勋说:「我已经很久没见到大家了,所以有很多想分享的事情。」