生成式AI添利器！英伟达推出超级芯片GH200 Grace，内存增3.5倍、带宽增三倍
2023-08-09 02:15:20 来源：市场资讯
来源：华尔街见闻
生成式AI又添强大助力，英伟达升级产品，推出容量和速度双双大幅提升的超级芯片GH200 Grace，力求巩固AI芯片领域的霸主地位。
【资料图】
发布产品当天，英伟达股价周二低开低走，临近午盘时刷新日低，日内跌幅达3%。
美东时间8月8日周二，英伟达发布新一代GH200 Grace Hopper平台，该平台依托于搭载全球首款HBM3e处理器的新型Grace Hopper超级芯片（下称GH200），专为加速计算和生成式AI时代而打造。
新平台旨在处理世界上最复杂的生成式AI工作负载，涵盖大型语言模型、推荐系统和矢量数据库，将提供多种配置。英伟达称，GH200将于2024年第二季度投产。
新平台采用的GH200可以通过英伟达的NVLink技术连接其他GH200芯片，共同部署在生成式AI的大模型上。这种技术让GPU能充分访问CPU内存，在双芯片配置时提供合计1.2TB的快速内存。
英伟达的超大规模和高性能计算主管Ian Buck介绍，GH200比英伟达基于H100 的数据中心系统配备了更多内存和带宽。它采用的英伟达的Hopper GPU，并结合基于Arm架构的英伟达Grace CPU。
相比前代平台，新GH200 Grace Hopper平台的双芯片配置将内存容量提高3.5倍，带宽增加三倍，一个服务器就有144个Arm Neoverse高性能内核、8 petaflops 的 AI 性能和282GB的最新HBM3e内存技术。
HBM3e是一种高带宽内存，带宽达每秒5TB。该内存比当前的HBM3快50%，可提供总共每秒10TB的组合带宽，使新平台能运行比前代大3.5倍的模型，同时通过快三倍的内存带宽提高性能。
本周二，在计算机协会（ACM）计算机图形和交互技术特别兴趣组织（SIGGRAPH）的年度大会上发表主题演讲时，英伟达CEO黄仁勋将GH200称为“世界上最快的内存”。
黄仁勋说，为了满足生成式 AI 不断增长的需求，数据中心需要有针对特殊需求的加速计算平台。新的GH200 Grace Hopper 超级芯片平台提供了卓越的内存技术和带宽，以此提高吞吐量，提升无损耗连接GPU聚合性能的能力，并且拥有可以在整个数据中心轻松部署的服务器设计。
黄仁勋表示，在AI时代，英伟达的技术可以替代传统数据中心，投资800 万美元的新技术可以取代用旧设备建造的1亿美元设施，而且用电量可以减少20倍。“这就是数据中心在向加速计算转变的原因。你买的越多，越省钱。”
快速创建生成式AI的工具包AI Workbench
除了GH200，英伟达周二还发布了新的统一工具包AI Workbench，以及对英伟达Omniverse软件服务的重大升级。
AI Workbench为开发者提供了统一且便于使用的工具包，可在个人电脑（PC）或工作站上快速创建、测试和微调生成式AI模型，然后将其扩展到几乎任何数据中心、公共云或者英伟达的DGX云。
英伟达称，AI Workbench让企业的AI项目入门不再复杂。通过在本地系统运行的简化界面进行访问，它让开发者能使用自定义数据微调Hugging Face、GitHub 和 NGC 等常用存储库中的模型，然后可以在多个平台上轻松共享模型。
借助AI Workbench，开发者只需点击几下即可自定义和运行生成式AI，而且他们能够将所有必要的企业级模型、框架、软件开发套件和库整合到一个统一的开发者工作区中。
用黄仁勋的话来说就是：“人人都可以做到。”
现在送您60元福利红包，直接提现不套路~~~快来参与活动吧！关键词：
为你推荐
陕西两万五千吨市政桥梁完成“转身”
兰州40家A级旅游景区暂时关闭 开放时间暂定
北京丰台初步排查确诊病例密接、次密接258人 组织3万余
四川95岁战斗英雄何开仲有个心愿：想见见山东老战友
增产快！电力生产加速 能源供应偏紧将得到缓解
夏粮和早稻实现双增产 前三季度农林牧渔业增加值同比增
云南瑞丽江桥“守门员”：疫情防控不漏一人
“久病床前真孝子” 浙江男子照顾瘫痪母亲十载
黑龙江：儿童福利机构养育儿童保障标准提至1750元
山西新绛南关村民：因洪水离开家的日子
“十年磨一剑” 黑色矸石山终闻花果香
国家一级保护动物猎隼受伤 内蒙古警方送医救治
一罪犯强行脱逃下落不明 吉林省吉林监狱发布悬赏通告
涉案金额逾3000万 广西一“洗钱”团伙受审
青藏高原有雨雪天气 西南地区江南华南等地有明显降雨
湖南长沙县发现1例外省输入新冠肺炎确诊病例
青海互助：打造全国最大高原草莓种苗繁育中心
照片修复师：每修复一张照片越珍惜与亲人相处的时光
贵州率先在中国实现地质矿产勘查全过程数字化
浙江岱山通报一船沉没 2人获救11人失联
推荐内容
- 陕西两万五千吨市政桥梁完成“转身”
- 河北邯郸发生天然气泄漏事故致3人死亡
- 兰州40家A级旅游景区暂时关闭 开放时间暂定
- 湖北警方打掉两跨省“跑分”洗钱犯罪团伙
- 新冠肺炎疫情下如何保护孩子？张文宏建议设儿童专
- 海南儋州出现1例治愈后的境外输入病例复阳人员
- 男童脊柱侧弯压迫心肺 医生耗时7小时矫正
- 宁夏将开展18岁以上重点人群加强免疫接种工作
- 北京新增1例京外关联本地确诊病例 病例所在街道
- 北京丰台初步排查确诊病例密接、次密接258人 组
- 四川95岁战斗英雄何开仲有个心愿：想见见山东老战
- 增产快！电力生产加速 能源供应偏紧将得到缓解
- 夏粮和早稻实现双增产 前三季度农林牧渔业增加值
- 云南瑞丽江桥“守门员”：疫情防控不漏一人
- 宁夏吴忠核酸阳性者已确诊
- 宁夏吴忠市发现一例外省来吴核酸检测阳性人员
- “久病床前真孝子” 浙江男子照顾瘫痪母亲十载
- 内蒙古额济纳旗5名确诊病例行动轨迹：在同一饭店
- 北京疾控：近期去过这些地方的相关人员请主动报备
- 北京新增1例京外关联输入本地确诊病例
- 增强为民服务能力——做群众最盼事 解群众最难题
- 魏复盛：干一些平凡的实事
- 中缅边境畹町海关查获涉嫌走私海马干4381尾
- 黑龙江：儿童福利机构养育儿童保障标准提至1750元
- 山西新绛南关村民：因洪水离开家的日子
- “十年磨一剑” 黑色矸石山终闻花果香
- 适老化的游戏准备好了吗？电子游戏别忽视老年人
- 国家一级保护动物猎隼受伤 内蒙古警方送医救治
- 西安鄠邑发布2名密接者活动轨迹
- 宁夏吴忠发现一例外省来吴核酸检测阳性人员
- 上海籍阳性夫妻内蒙古行程涉及3个景区、1个民宿、
- 内蒙古额济纳旗启动IV级应急响应 排查出密接者197人
- 内蒙古二连浩特市两地调整为中风险地区
- 泥若二审宣判来了 知名游戏主播山泥若被判刑3年
- 河北邯郸发生天然气泄漏 3人窒息死亡
- 北京丰台报告1例甘肃来京人员新冠病毒核酸检测阳性
- 内蒙古二连浩特两个社区调整为中风险地区
- 一罪犯强行脱逃下落不明 吉林省吉林监狱发布悬赏
- 兰州6人核酸检测呈阳性 主城区局地调整为中风险区
- 涉案金额逾3000万 广西一“洗钱”团伙受审
油气
- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9
- 10
