您的当前位置:首页 > 综合 > 大模子再掀算力浪潮,曙光“ALLin” 正文

大模子再掀算力浪潮,曙光“ALLin”

时间:2024-11-19 14:48:30 来源:网络整理 编辑:综合

核心提示

陪同8家大模子陆续经由《天生式家养智能效率规画暂行措施》存案,文心一言争先向全社会周全凋谢,AIGC将真正迎来在国内实际落地着花的时期,“百模大战”也将愈演愈烈。ChatGPT建议AIGC火爆的眼前,

陪同8家大模子陆续经由《天生式家养智能效率规画暂行措施》存案 ,大模文心一言争先向全社会周全凋谢,再掀AIGC将真正迎来在国内实际落地着花的算力曙光时期,“百模大战”也将愈演愈烈 。浪潮

ChatGPT建议AIGC火爆的大模眼前,家养智能算力需要也随之狂跌。再掀果真质料展现,算力曙光GPT-4的浪潮模子具备近1.8万亿参数 、13万亿磨炼数据 ,大模其磨炼一次的再掀老本高达6300万美元,大模子对于算力的算力曙光依赖显而易见 。除了削减算力资源提供外,浪潮算力运用率优化、大模运用门槛飞腾也至关紧张。再掀

无疑,算力曙光实现算力、算法及运用的智能 、协同调解 ,将算力更高效地转化为花难题,成为制胜百模争“算”时期的关键。

作为全财富链拆穿困绕的中间信息根基配置装备部署企业,曙光对于大模子及大规模算力的反对于与履历 ,远早于2023年。

近些年来 ,基于对于财富的深入洞察以及前瞻预判 ,曙光在天下规模内构建了搜罗智算中间、云中间 、一体化大数据中间在内的种种算力中间,把握了丰硕多样且通用性极强的算力资源。经由智能化调解以及资源规画,将算力资源上云联网,并以立异型算力效率平台为进口,面向差距行业地域的用户提供可利便取患上的算力以及运用 。

妨碍当初 ,曙光已经退出“悟道2.0” 、“紫东太始” 、“文心一言” 、“通义千问”等多类大模子的磨炼、微调、推理等使命,为其提供单薄算力反对于。累计实现30余个国内外主流大模子的适配孵化,搜罗业界熟知的GPT系列 、LLaMA系列、GLM系列等 。划一条件下,大模子磨炼功能及磨炼晃动性都患上到清晰提升 。

此外,针对于大模子磨炼带来的挑战 ,曙光详尽协同生态过错,与baidu  、阿里、智源钻研院、智谱AI、复旦大学 、之江试验室  、捷通华声等业内乱先企业及科研院所深度相助,短缺变更起政 、产 、学、研、用各方实力,打造了面向差距运用途景的大模子一体机 、大模子存储处置妄想等,提供从底层算力、框架 、算法、运用等全栈AI能耐,知足多场景需要,减速大模子探究立异及财富化落地 。

与此同时  ,由于大模子对于算力的重大需要,能耗下场日益严酷 。自2011年开启,曙光便自动于相关探究,研发了争先的浸没式相变液冷技术以及冷板式冷却技术,构建了搜罗合计以及存储的全栈绿色合计妄想,并已经乐成实现商业化部署。比照传统风冷方式 ,在划一功率下,可为AI合计中间部件降温20-30°C;在划一功能下,为算力配置装备部署飞腾能耗30%。当初,中国有逾越58%的液冷数据中间抉择了曙光的技妙筹划。

信息财富在演化的每一个阶段 ,都市有主流的技术运用倾向。在“万变”的情景中 ,惟有把握前瞻趋向、坚持打造中间相助力才是应答变更的“巩固”纪律。不论是大模子 ,仍是下一个新“风口”  ,曙光早已经在期待。