当前位置:首页 > 每日资讯 > 正文

提速10倍!英伟达发布ChatGPT专用GPU-天天观点2023-03-22 12:47:35 | 来源:21经济网 | 查看: | 评论:0


(资料图)

3月21日晚间,英伟达CEO黄仁勋在2023年GTC开发者大会上发表了主题演讲,介绍了英伟达在AI领域的最新进展,包括全新的量子计算系统、云服务平台、视觉图像系统等,以及这些技术将如何影响每个行业和日常生活。

针对算力需求巨大的ChatGPT,英伟达发布了NVIDIA H100 NVL,这是一种具有94GB内存和加速Transformer Engine的大语言模型(LLM)专用解决方案,配备了双GPU NVLINK的PCIE H100 GPU。

“当前唯一可以实际处理ChatGPT的GPU是英伟达HGX A100。与前者相比,现在一台搭载四对H100和双NVLINK的标准服务器速度能快10倍,可以将大语言模型的处理成本降低一个数量级。”黄仁勋说。

标签:

上一篇:今日南财市场情绪指数为34.1,市场投资热度偏低|热点 最后一页下一篇: