网站导航

开云新闻 > 开云-大模型算力新选择——宝德AI服务器采用8颗英特尔Gaudi®2加速器

当前位置:主页 > 开云新闻 >
开云-大模型算力新选择——宝德AI服务器采用8颗英特尔Gaudi®2加速器
时间:2024-08-04作者:肥仔
  • 近日,英特尔专门针对中国市场推出深度进修加快器Habana®Gaudi®2,以领先的性价比优势,加快AI练习和推理,提精深度进修机能和效力,从而成为年夜范围摆设AI的更优解。作为英特尔在中国最主要的计谋合作火伴和中国AI办事器市场的TOP3,宝德计较积极联袂英特尔,推出了撑持8颗Gaudi®2加快器的AI加快计较办事器——PR8908WG,具有高机能、可扩大性强、高能效和开箱即用等优势,可以或许为AI客户特别是年夜模子练习和推理供给超高性价比的算力支持。

    全新Gaudi®2练习加快器,专为深度进修而生

    Gaudi®2采取7nm制程工艺,具有高机能架构,具有24个可编程Tensor处置器焦点(TPCs),21个100Gbps(RoCEv2)以太网接口,96GB HBM2E内存容量,2.4TB/秒的总内存带宽,48MB片上SRAM,而且集成多媒体处置引擎,为练习年夜说话模子供给高机能、高可扩大性和高能效的AI算力,在MLCommons®MLPerf@基准测试之GPT-3模子、计较机视觉模子ResNet-50、Unet3D、和天然说话处置模子BERT等方面均获得了优良的成就。

    生成式AI和年夜说话模子需要办事器集群来知足年夜范围且加倍复杂的计较要求。英特尔Gaudi®2处置器作为一款高机能、完全可编程的AI处置器,整合了多项手艺立异,具有高内存带宽/容量和基在尺度以太网手艺的纵向扩大能力,并撑持利用外接网卡经由过程PCle接话柄现横向扩大,可知足多节点集群需要。同时,英特尔不竭打造领先、成熟的软件生态撑持,SynapseAI®软件套件就针对Gaudi平台深度进修营业进行了优化,它集成了对TensorFlow和PyTorch框架的撑持,并供给浩繁风行的计较机视觉和天然说话参考模子,可以或许知足深度进修开辟者的多样化需求。

    宝德AI办事器PR8908WG+ Gaudi®2,年夜模子算力新选择

    宝德AI办事器PR8908WG采取第三代英特尔®至强®可扩大处置器,8U空间撑持8颗OAM高速互联的Gaudi®2 AI加快器,每颗Gaudi®2芯片开云体育app设置装备摆设96GB HBM高速内存,GPU与 GPU 之间互联带宽到达400GB/s,供给2.1Tbps的P2P互联带宽,撑持全互联拓扑,周全知足年夜模子练习的海量通讯需求;它撑持200Gb ETH和HDR高速智能网卡,撑持GPU Direct RDMA,完善知足集群和超年夜范围扩大利用。

    PR8908WG具有32个DDR4 DIMM插槽,最年夜撑持8TB 32x 256 GB DRAM;撑持24块2.5英寸SAS/SATA热插拔硬盘位,默许撑持8块直连SATA硬盘,4块NVMe U.2 SSD,同时内置2个NVMe M.2 SSD,实现 CPU 纵贯设计,下降 I/O 延迟;它供给2个PCIe 4.0 x16 FHFL插槽和2 个PCIe 4.0 x8 FHFL插槽;撑持以太网、InfiniBand、OPA等多种分歧收集选择和互联需求。

    PR8908WG整机采取模块化设计,自力的GPU和CPU 热量分区设计确保系统在最刻薄的工作负载下机能和不变性不受影响;同时板载集成BMC、撑持经由过程RAID卡超等电容、撑持IPMI 2.0长途治理等,很是便利用户对AI算力装备的保护治理。

    综上,宝德AI加快计较办事器PR8908WG可以知足AI分歧场景下海量数据的计较和推理需求,特殊合用在年夜模子练习和推理、深度进修、主动驾驶、智能城市、医疗健康、年夜数据、高机能计较(HPC)和虚拟实际等利用场景,帮忙加快更多AI手艺的落地和利用。

    年夜模子将带来AI新价值,“百模年夜战时期”已到临。跟着各年夜模子的争奇斗艳和对本钱、盈利模式等的日趋存眷,性价比为王将成为AI算力的新尺度。作为中国领先的计较产物方案供给商,宝德计较将继续阐扬AI办事器范畴的手艺优势和市场经验,联袂英特尔等合作火伴不竭立异,摸索年夜模子算力的更多选择,打造更具性价比的AI算力息争决方案,助力中国年夜模子更多细分场景的落地和贸易变现,配合加快中国年夜模子手艺的成长程序,鞭策中国人工智能财产的整体进级!

    责任编纂:prsky

上一篇:开云-海创汇平台项目"盘古智能"敲钟深交所,风机润滑龙头迈入新台阶 下一篇:开云-行业发展再树新标杆 A.O.史密斯荣获住建部"行业科技"推广证书

开云-客户满意是我们服务的宗旨!

联系我们

Copyright © 2009-2025 开云版权所有 备案号:粤ICP备09100880号-1

地址:深圳市宝安区固戍街道裕兴科技工业园G栋