在开场,黄仁勋以“这不是一场音乐会”进行调侃,称在科技业外,仍有来自全球价值百万亿美元的行业从业者出席了会议,他对此感到非常自豪。黄仁勋称,随着ChatGPT的问世,激发了大众对于AI的想象,各种创新应用和创业公司陆续诞生,一个全新的时代已经来临了。
“Blackwell”成为平台:GPU、DPU、NVLink全线更新
B200由两个超大型Die(裸片)封装组合而成,内含超过2080亿个晶体管,是前一代800亿个晶体管的两倍以上,整块芯片还封装有192GB高速HBM3e显存。
在演讲中,英伟达CEO黄仁勋将Blackwell称为“推动新一轮工业革命的引擎”,并定义其为一个平台,基于Blackwell,衍生出GPU、AI超级芯片、服务器、大型计算集群、云服务等多套解决方案。
此前,英伟达发布了“GraceHopper”超级芯片,随着Blackwell架构GPU发布,英伟达顺势推出“GraceBlackwell”GB200超级芯片,GB200由两个B200GPU和GraceGPU相连。
BlackwellGPU计算性能强劲,但面对大模型时代的GPU集群计算,如何解决芯片之间的数据传输问题已成为瓶颈。对此,英伟达同步推出新一代NVLink连接协议方案和NVSwitch芯片,组成X800系列交换机,大幅提高数据吞吐量至800Gb/s,用来处理GPU之间的数据传输,进一步增强GPU集群扩展性和计算能力。
JetsonThor提供每秒800万亿次8位浮点运算AI性能,可以运行GR00T等多模态生成式AI模型,并大大简化设计和集成工作。
英伟达称,正在为多家人形机器人公司开发一个综合AI平台,如1XTechnologies、AgilityRobotics、Apptronik、波士顿动力公司、FigureAI、傅利叶智能、SanctuaryAI、宇树科技和小鹏鹏行等。
“开发通用人形机器人基础模型是当今AI领域中最令人兴奋的课题之一。世界各地的机器人技术领导者正在汇集各种赋能技术,致力于在人工通用机器人领域实现突破。”黄仁勋也现场表达了公司对人形机器人研究的支持。
自动驾驶:多项重要合作宣布黄仁勋在GTC主题演讲中宣布,集中式车载计算平台DRIVEThor将搭载专为Transformer、大语言模型(LLM)和生成式AI工作负载而打造的全新Blackwell架构。
推理微服务成为AI入口:已用于量子计算、医药行业
除了硬件产品,英伟达还与大量与企业合作,推进AI落地。在发布会上,英伟达的推理微服务(NIM)颇具野心,它将作为企业AI的入口。
该服务有望支撑英伟达未来在AI服务上的营收增长,其具体模式为:英伟达提供预训练好的AI模型并开放API(应用程序接口),再由行业客户开发应用,以简化企业自己开发生成式AI应用的成本。
黄仁勋也在现场示范了英伟达内部藉NIM所打造的“芯片设计聊天机器人”,经过数据训练和模型微调后,聊天机器人即可给出符合芯片设计领域的答案,甚至能同步生成所需的程序代码。
在量子计算领域,英伟达宣布推出云量子计算机模拟微服务,帮助研究人员和开发人员在化学、生物学、材料科学等科学领域的量子计算研究,该服务基于开源CUDA-Q量子计算平台,支持用户在云端构建并测试新的量子算法和应用,包括支持量子-经典混合算法编程的模拟器和工具等。与其他云服务不同,英伟达目前还没有量子计算机,但未来它将提供第三方量子计算机的访问。
在医药领域,英伟达宣布旗下包括Parabricks、MONAI、NeMo、Riva、Metropolis,现已通CUDA-X微服务提供访问,以加速药物研发、医学影像、基因组学分析等医疗工作流程。
英伟达还介绍,其已经推出的25个面向医疗领域的微服务,可以加快医疗企业的转型,包括筛选数万亿种药物化合物以促进医学发展、收集更完善的患者数据以改进早期疾病检测、实现更智能的数字助手等。
长期以来黄仁勋向外强调,摩尔定律已死,计算范式正发生改变,由CPU主导的通用计算转向GPU的加速计算,GPU在行业场景下有大量替代CPU的机会,生成式AI更大大加速了这一进程。
英伟达数字人平台包括三项主要技术:NVIDIAACE、NVIDIANeMo和RTX光线追踪技术,分别通过AI驱动游戏角色语言、语音、动画和图形。
其中,NVIDIAACE可帮助开发者通过Audio2Face驱动的面部动画以及由Riva自动语音识别(ASR)和文本转语音(TTS)驱动的语音交流,让数字人交互更加生动。英伟达称,NVIDIAACE允许模型在云端和PC上运行,以确保用户获得最佳体验。此外,全球游戏发行商正评估NVIDIAACE如何改善游戏体验。