乐博体育(中国)官方网站 - APP下载乐博体育(中国)官方网站 - APP下载

乐博体育(中国)官方网站 - APP下载

新闻中心

新闻中心 News Center

乐博体育-算力呈指数级增长,服务器有哪些进展?

发布时间:2024-03-21  浏览:432 次

乐博体育-算力呈指数级增长,服务器有哪些进展?

电子发热友网报导(文/黄晶晶)人工智能的基座包罗数据、算力和算法。此中算力更是数据和算法的支持。各类模子基在数据量、算法的练习和推理鞭策了算力需求。按照OpenAI的测算数据,AI练习运转所利用的算力每3-4个月增加一倍。AI练习运转所利用的算力已增加超30万倍。IDC数据显示,2022年我国智能算力范围到达268百亿亿次/秒(EFLOPS),跨越通用算力范围;估计将来5年我国智能算力范围的年复合增加率将达52.3%。修建算力必定离不开办事器的扶植。作为全球顶级的人工智能/高机能计较办事器制造商息争决方案供给商,Supermicro公司日前向电子发热友网暗示,新营业合约有很年夜一部门来自人工智能/高机能计较范畴,并且很多与ChatGPT相关。Supermicro高管暗示,人工智能界其实不晓得将来还会碰到几多计较稠密型问题。以GPT-3为例,它需要323 Zetta FLOPS的算力和1750亿个参数来练习模子,更需要重大的算力来履行推理工作。加倍智能的GPT-4将会有更多的参数,有可能到达一万亿乃至更多。为了运转如许的年夜模子和年夜范围参数,若何有用应用办事器显得十分主要,这关乎办事器的性价比选择。Supermicro公司高管说到,当年夜量的GPU办事器集群起来时,人工智能/高机能计较利用的每微秒都很主要。Supermicro设想开辟了各类分歧架构的GPU办事器,晋升了CPU和GPU之间或从GPU到GPU的数据传输速度。经由过程公道选择系统SKU,处理方案的设想能够将每一个CPU/GPU焦点操纵到极致。从边沿到云,从练习到推理,当前市道上所需的人工智能/高机能计较利用,Supermicro都能够供给全方位的GPU办事器,能让客户充实操纵计较资本上破费的每分钱。

更年夜的办事器存储空间

跟着CPU、GPU和内存手艺的成长,现代计较集群处置数据的速度和数目不竭增添,是以有需要加强存储机能,以便将数据馈送给利用时不会构成减缓全部系统的速度的瓶颈。比来,Supermicro推出了超高机能、高密度PB级All-Flash NVMe办事器新机型。更新产物系列中初步推出的产物将在1U 16槽机架势安装系统中撑持高达1/2 PB的贮存空间,随后的产物则将在2U 32槽机架势安装系统中为IntelAMD PCIe Gen5平台供给1 PB贮存空间。Supermicro高管暗示,Supermicro的Petascale All-Flash办事器供给业界领先的存储机能和容量,能够削减知足热存储和温存储要求所需的机架势系统数目,并经由过程诸多功能特点下降整体具有本钱。具体来讲,容量扩大,更普遍的PCB有助在实现更矫捷的NAND芯片结构;机能扩大,可扩大毗连器设想,多链路宽度(x4、x8、x16),撑持分歧电源设置装备摆设;热效力,散热和制冷治理改良;面向将来,通用毗连器合用在各类尺寸规格,能够为将来几代PCIe供给加倍壮大的旌旗灯号完全性;处理方案规模,各类功率设置装备摆设(20W-70W),合用在更高容量/机能的固态硬盘。“安装了速度更快的固态硬盘以后,系统的均衡就变得加倍主要。Supermicro具有全新的NUMA均衡对称架构,能够供给到驱动器的最短旌旗灯号路径、到存储器的带宽均衡和矫捷的收集选项,从而下降时延。最主要的是,对称设想还助在确保全部系统的气流利通无阻,是以可使用加倍壮大的处置器。”Supermicro高管说道。

桌面型GPU统筹AI与液冷散热

CPU/GUP/xPU也组成了系统设想的热量挑战,各类处置器耗损的功率不竭爬升,另外一方面,科研/医疗举措措施/金融/石油和自然气企业需要人工智能/高机能计较来提高其专业合作力。在这些企业中,有良多需要在员工工作的地址设置工作站或当地办事器。基在如许的需求,Supermicro推出功能壮大、恬静且节能的NVIDIA加快人工智能(AI)开辟平台系列傍边的首款装配。全新的AI开辟平台SYS-751GE-TNRT-NV1是一款利用优化的系统,在开辟和运转AI软件时表示特别超卓。另外,这个机能壮大的系统能够撑持小团队里的用户同步运转练习、推理和阐发等工作负载。自力的液冷功能可知足四个NVIDIA® A100 Tensor Core GPU和两个第4代Intel Xeon可扩大处置器的散热需求,在阐扬完全机能的同时提高全体系统效力,并实现了在办公情况下的恬静(约30dB)运转。对散热的考量,Supermicro高管认为搭载NVIDIA A800等壮大的协加快器、且声压级介在30~45分贝的工作站,必需采取液冷处理方案才能知足这一需求。冷板式液冷在市场上颠末了十多年的考验,今朝其成熟度和靠得住性已到达了数据中间年夜范围摆设的程度。

立异手艺驱动成长

早前,Supermicro就提出了不雅察到的七年夜立异手艺,他们包罗高机能350W CPU和700W GPU、处置速度更快的DDR5内存、第五代PCI-E 5.0手艺、Compute Express Link(CXL,开放式互联尺度)、400G高速收集、新型固态硬盘和液冷手艺。简言之就是更高的功耗和更快的数据传输速度。这就需要优化功率效力、处理热量挑战、增强第五代PCIe、DDR5、高速收集、无梗阻系统架构设想和摆设等。Supermicro高管指出,这些立异手艺背后的一个配合点是热量调剂。更快的处置器频次、更多的计较焦点、更高速的收集城市发生更多的热量,这些热量必需输送到数据中间以外。他暗示,正如我们估计的手艺趋向和产物线路图所示,当前和新一代人工智能/高机能计较办事器采取的热量处理方案必需比今朝的空气冷却加倍高效。瞻望已到来的AI迸发的时期,ChatGPT的需求日趋增加,不但推高了办事器的销量,并且还鞭策新手艺经由过程年夜范围摆设而被遍及采取的机遇。GPT供给的办事包罗说话翻译、聊天机械人、内容生成、说话阐发、语音辅助等等。要实现人工智能系统的所相关键手艺,就需要足够快速的办事器,并经由过程复杂的架构、用在保护工作的液冷管安插等将其联网。这些专业手艺常识意味着处理方案将不再作为一个个的办事器供给。完全的处理方案摆设更像是一个具无机架级停当程度的即插即用处理方案。Supermicro将ChatGPT视为办事器市场增加的要害驱动力,将来我们会看到GPT办事的更多立异型用例。Supermicro已预备好面临这个趋向,一直连结在AI办事器手艺前沿,并供给立异的处理方案,使得客户可以或许加快他们的AI利用计划,同时优化整体具有本钱并经由过程绿色计较最年夜限度地削减对情况的影响。



文章来源:乐博体育 提供



上一篇:乐博体育-触觉技术如何增强驾驶安全性                                                                   下一篇:乐博体育-纳微发布7大全球行业应用展望 助力能源可持续发展


服务热线

15899971165

乐博体育(中国)官方网站 - APP下载

© Copyright 2024. All Rights Reserved. Designed by 乐博体育(中国)官方网站 - APP下载 丨 备案号:粤ICP备13039630号 丨 网站地图