数据与智能>业界新闻

英伟达推出超级芯片,用GPU重塑AI

作者:文少   责任编辑:文少 2023-08-09 17:43:06
来源:电脑商情在线关键字:英伟达,芯片,GPU,AI,黄仁勋

美东时间8月8日,英伟达在SIGGRAPH年会上发布了新一代GH200 Grace Hopper平台,该平台依托于新型Grace Hopper超级芯片(下称GH200)。

GH200芯片搭载了全球首款HBM3e处理器,这使得英伟达能够通过其NVLink技术将多个GH200芯片连接在一起,形成强大的计算集群。预计在明年的第二季度,这款芯片将正式投产。

这款芯片不仅拥有高性能的Arm Neoverse内核,还集成了英伟达的Hopper GPU和基于Arm架构的Grace CPU,从而在计算能力和内存性能上都取得了显著的提升。其双芯片配置为新平台带来了强大的计算能力,加速了生成式AI模型的训练和推断过程。

借助这款芯片,英伟达推出了GH200 Grace Hopper平台,该平台的双芯片配置使内存容量增加了3.5倍,带宽增加了3倍。一个服务器就有144个Arm Neoverse高性能内核、8 petaflops 的 AI 性能和282GB的最新HBM3e内存技术。

HBM3e是一种高带宽内存,带宽达到每秒5TB,比当前的HBM3快50%,可提供总共每秒10TB的组合带宽,这使得新平台能够运行比之前版本大3.5倍的模型。

此举不仅是为了巩固英伟达在AI芯片领域的领先地位,同时也是对生成式AI革命的积极响应。在过去的几年中,生成式AI已经引起了广泛的关注,英伟达的GH200意在推动生成式AI处理更为复杂的工作负载,涵盖了语言模型、推荐系统以及矢量数据库等领域。

除了GH200,英伟达还发布了AI Workbench工具包,该工具包为开发者提供了更便捷的方式来创建、测试和微调生成式AI模型。这个工具包的引入,使得企业能够更轻松地开始AI项目,通过本地系统运行的简化界面,开发者可以方便地使用自定义数据来微调各种模型,同时还能在不同平台上共享这些模型。

英伟达创始人兼首席执行官黄仁勋表示:“当我们用AI重塑了GPU时,也意味着我们用GPU重塑AI。”。

意见反馈:zhanheng@cbigroup.com

稿件投诉:zhanglin@cbigroup.com

内容合作QQ:2291221

商务合作:13391790444 詹老师

京ICP备:2022009079号-3

京公网安备:11010502051900号

ICP证:京B2-20230255

关注我们