网站导航

开云新闻 > 开云-宝德昇腾AI服务器PR420KI G2创新大模型算力底座

当前位置:主页 > 开云新闻 >
开云-宝德昇腾AI服务器PR420KI G2创新大模型算力底座
时间:2024-07-09作者:肥仔
  • 跟着ChatGPT的出圈爆火,AIGC手艺已开启了快速成长模式,很多企业纷纭发力结构AI年夜模子范畴,多个AI年夜模子如雨后春笋般出现,显现“百模齐放”之势。而AI年夜模子千万万,可是能走进千家万户、赋能千行百业才是硬事理。

    算力作为人工智能成长的引擎,更是AI年夜模子的主要开云体育app驱动力。AI年夜模子的参数目和计较量重大,要练习出优异的AI模子并真正利用在各行各业,需要庞大的算力撑持。是以,百模齐发之时,能为年夜模子练习供给强劲运算能力和高效平安的底座的AI算力成为各路必争的利器。

    作为中国AI办事器TOP3企业,宝德立异进级,重磅推出了自强®系列昇腾AI练习办事器PR420KI G2,助力年夜模子赋能千行百业。该办事器面向深度进修模子开辟和AI练习办事场景,专为年夜模子练习而生,具有更高算力密度、超高能效与高速收集带宽等优势,供给丰硕的算力资本,能加快处置运算,知足年夜模子练习的海量算力需求。

    更高算力密度,高效加快AI利用

    宝德自强®练习办事器PR420KI G2基在鲲鹏+昇腾处置器打造,在4U空间内供给2.5PFLOPS FP16超强算力,最高供给0.65PFLOPS FP32业界领先算力,具有海量数据并行计较能力,可轻松应对年夜模子繁重的计较压力。同时搭载8颗超强算力的昇腾处置器,其内部集成了图象&视频预处置器,外部通讯模块、硬件加快器、芯片治理核等模块,供给完全的SOC功能,能高效加快AI利用。

    高速收集带宽,加快年夜模子手艺进级落地

    AI年夜模子一方面需要壮大的计较能力,另外一方面也需要高速靠得住的收集让数据和时活动。而模子参数目越年夜,对带宽的需求就越高。PR420KI G2供给高速收集带宽,延时低,可有用削减年夜模子练习的时候本钱。它具有8*200G RoCE v2高速接口,8路NPU经由过程HCCS Full mesh互联模式,双向互联带宽可达392GB/s,周全晋升年夜模子的练习效力。同时整机HBM缓存512G,带宽达1600GB/s,进一步释放 AI 潜能,助力年夜模子算力瓶颈冲破,加快年夜模子手艺的迭代进级和落地利用。

    极致能效比,统筹高算力低能耗

    碳中和布景下,年夜模子寻求高算力的同时也要统筹节能减排。PR420KI G2设置装备摆设高效节能电源、动态冷却机制,供给2.5PFLOPS/5.2kW超高能效比,在连结其机能的同时,年夜年夜节流运营费用,下降练习本钱;同时,还采取智能散热系统,按照热要害器件温度综合调理电扇转速,节能的同时下降了噪音并提高电扇的靠得住性。

    另外,PR420KI G2还采取2+2 冗余电源设计,供给多种 RAID 庇护级别,具有数据处置机能和庇护数据功能,为办事器的运行平安供给更高的平安保障。它可普遍合用在年夜模子练习、聪明城市、聪明医疗、天文摸索、石油勘察、高机能计较(HPC)等需要年夜算力的利用场景,为加快更多AI落地和利用供给彭湃动力。

    当前AI年夜模子正不竭向纵深成长,在国度政策的影响下,高算力、高带宽、低能耗的AI算力根本举措措施将更受青睐。将来,宝德将继续充实阐扬本身AI办事器范畴的手艺优势和市场经验,加快年夜模子与实体财产的深度融会,助推更多年夜模子场景落地和利用,增进千行百业数字变化,为我国人工智能财产的成长注入强劲的动力。

    责任编纂:prsky

上一篇:开云-招商信诺人寿全面开展2023年"7.8保险公众宣传日"系列活动 下一篇:开云-安芯易亮相慕尼黑上海电子展,四大亮点呈现彰显品牌硬实力

开云-客户满意是我们服务的宗旨!

联系我们

Copyright © 2009-2025 开云版权所有 备案号:粤ICP备09100880号-1

地址:深圳市宝安区固戍街道裕兴科技工业园G栋