您的当前位置:首页 > 综合 > 华为推出全新架构昇腾 AI 合计集群,反对于超万亿参数大模子磨炼 正文

华为推出全新架构昇腾 AI 合计集群,反对于超万亿参数大模子磨炼

时间:2024-11-16 15:38:18 来源:网络整理 编辑:综合

核心提示

IT之家 9 月 20 日新闻,在今日举行的华为全毗邻大会 2023 时期,华为常务董事、ICT 根基配置装备部署营业规画委员会主任、企业 BG 总裁汪涛正式宣告全新架构的昇腾 AI 合计集群 ——A

IT之家 9 月 20 日新闻 ,华为合计在今日举行的推出华为全毗邻大会 2023 时期,华为常务董事 、全新ICT 根基配置装备部署营业规画委员会主任 、架构集群企业 BG 总裁汪涛正式宣告全新架构的昇腾昇腾 AI 合计集群 ——Atlas 900 SuperCluster ,可反对于超万亿参数的反对大模子磨炼 。

据介绍 ,于超新集群接管了全新的参数华为河汉 AI 智算交流机 CloudEngine XH16800 ,借助其高密的大模 800GE 端口能耐 ,两层交流收集即可实现 2250 节点(等效于 18000 张卡)超大规模无收敛集群组网。磨炼

新集群同时运用了立异的华为合计超节点架构  ,大大提升了大模子磨炼能耐。推出此外,全新发挥华为在合计 、架构集群收集、昇腾存储 、能源等规模的综合优势,从器件级、节点级、集群级以及营业级周全提升零星坚贞性,将大模子磨炼晃动性从天级提升到月级 。

此外 ,华为宣告了更凋谢 、更易用的 CANN 7.0 异构合计架构,不光周全兼容业界的 AI 框架 、减速库以及主流大模子 ,还深度凋谢底层能耐,让 AI 框架以及减速库可能更直接地调用以及规画合计资源 ,使能开拓者自界说高功能算子 ,让大模子具备差距化的相助力。

华为还降级了 Ascend C 编程语言,以更高效的编程方式,简化算子实现逻辑 ,大幅延迟融会算子的开拓周期,为 AI 模子与运用的快捷开拓赋能。

面向全天下企业以及开拓者,华为云官网今日正式上线昇腾 AI 云效率“百模千态”专区,专区收录了业界主流开源大模子 ,并周全基于昇腾 AI 云效率妨碍适配以及优化;提供运用开拓的工具链 ,开拓工具已经全副实现为了云化,免去啰嗦的配置装备部署流程 ,实现一键接入 ,即开即用 。

IT之家查问患上悉,妨碍往年 7 月 ,昇腾 AI 集群已经反对于天下 25 个都市的家养智能合计中间建树,其中 7 个都市公共算力平台落选首批国家“新一代家养智能公共算力凋谢立异平台” 。

同时 ,昇腾 AI 已经睁开 30 多家硬件过错、1200 多家 ISV ,散漫推出了 2500 多个行业 AI 处置妄想  ,规模效率于经营商 、互联网、金融等行业。

广告申明:文内含有的对于外跳转链接(搜罗不限于超链接 、二维码 、口令等方式),用于传递更多信息 ,节约甄选光阴 ,服从仅供参考 ,IT之家所有文章均搜罗本申明 。