智算无限 持续赋能 | 智微智能高性能AI服务器

佚名 2023-10-10

    为了推动国家AI产业的发展,一系列的支持性政策陆续出台,加上海量数据的增加、算法模型的复杂化以及应用场景的深入发展,中国AI算力规模正在持续扩大,算力需求的持续释放带动算力基础设施产业迎来增长新周期。据IDC数据显示,AI的应用与普及促使2022年我国智能算力规模近乎翻倍,达到268EFLOPS,超过通用算力规模。2026年我国智能算力规模将达1271.4EFLOPS,21-26年复合增长率预计达52.3%,而硬件占AI支出比重的49.8%。其中最大投资是服务器,占AI硬件支出比重84%以上,AI将成为未来服务器市场新一轮快速增长的主要推动力。2021年全球人工智能服务器市场规模达156亿美元,同比增长39.1%,2022年约为183亿美元,预计未来人工智能服务器市场将继续高速增长,2023年市场规模将达到211亿美元。

智算无限 持续赋能 | 智微智能高性能AI服务器

资料来源:IDC

    AI服务器概述

    服务器随场景需求分为通用服务器、云服务器、边缘服务器、AI服务器四种模式。AI服务器采用GPU增强其并行计算能力,CPU+GPU是AI服务器的核心部件。AI服务器可分为深度学习训练型和智能应用推理型,训练对芯片算力要求更高,推理对算力的要求偏低。中国AI服务器推理负载占比约55.5%,未来有望持续提高。当下AI服务器通常采用异构形式,在训练模型或者应用推理等情况下,CPU+GPU组合仍然是实现数据中心加速的首选。

    训练:属于非实时业务,所耗时间可能数天也可能数月,具体取决于模型参数量的多少和算力芯片性能的高低,因此在算力芯片和服务器的投入上,属于用户对阶段性模型训练需求的一次性高投入成本。

    推理:属于实时业务,需要响应客户端触发的实际需求,算力需求取决于活跃用户数和设计并发数的级别,因此算力芯片和服务器的投入,会随着模型的商用流行度以及吸引的活跃用户数持续增加。

    加上数据量的剧增,不同应用场景对AI服务器的芯片散热、整机设备散热和电源功率及效率要求大幅提升,RAID控制卡随数据量同步增加,PCIe接口传输速率也随之迎来升级。此外,为了保障数据安全,AI服务器必须加强数据加密技术,并建立定期备份和恢复机制,以满足不断增长的AI应用需求,并确保AI服务器性能和可靠性的持续提升。

    智微智能AI服务器

    智微智能AI服务器目前拥有SYS-80215R、SYS-8029R-S06、SYS-8049RG 三款产品。产品均采用Intel 至强可扩展系列处理器平台,为AI领域提供强大支持,满足实时数据处理、训练和推理等关键需求。工规级设计,适用于各种复杂场景下的部署和应用。

智算无限 持续赋能 | 智微智能高性能AI服务器

    SYS-80215R 是一款2U双路高性能AI服务器,采用Intel C741高性能芯片组,支持第四代英特尔至强可扩展系列处理器。整机提供16个DDR5 RDIMM内存槽,最大支持4TB内存扩展,支持最多12个3.5寸热插拔SAS/SATA3.0硬盘;提供4个PCIe 5.0 x8和2个PCIe 5.0 x16高速插槽,方便扩展各类PCIe设备(如高性能GPU、FPGA加速卡、RAID控制器、ASIC加速卡等),提高对CAD、仿真模拟、GCC渲染、GPU计算等应用的支持;2个Intel 2.5G网络接口,提供更快的网络连接速度和更好的宽带;1个IPMI网络管理接口,支持服务器硬件检测,可远程监控服务器各硬件的工作状态,及时做出调整。

    前后面板设计简单易用,没有复杂按键,操作简单。服务器顶部配备一键拆卸开关,便于用户更换设备和进行运维,无需重复锁螺,适用于对空间部署有要求和高计算性能等应用场景。

智算无限 持续赋能 | 智微智能高性能AI服务器

    SYS-8029R-S06 是一款2U双路边缘AI服务器,采用Intel C621高性能芯片组,支持第二代英特尔至强可扩展系列处理器。提供16个DDR4 DIMM内存槽,最多支持4TB内存容量,标配支持6个2.5寸SATA3热插拔硬盘,最多可扩展6个半高单宽加速卡。集成2个千兆网络端口和2个2.5G网络端口,具有负载均衡、链路汇聚和支持冗余特性,可有效减少网络延迟。提供1个IPMI网络管理端口,支持IPMI 2.0和KVM Over IP高级管理功能。高集成度的设计能在有限的空间内带来强劲的计算性能表现,适用于对部署空间有要求的场景应用,满足边缘端的数据推理需求。

智算无限 持续赋能 | 智微智能高性能AI服务器

    SYS-8049RG 是一款4U双路AI服务器,采用Intel C621高性能芯片组,支持第二代英特尔至强可扩展系列处理器。提供16个DDR4 RDIMM内存槽,最大支持4TB内存扩展;标配8个3.5寸6G SATAIII热插拔硬盘,支持Raid0,1,5,10;整机支持4张双宽全高或7张单宽NVIDIA图形计算加速卡(例如NVIDIA A30 Tensor Core GPU),为AI训练提供强有力的算力支撑。采用X550万兆网络控制器,支持2个万兆电口及1个千兆IPMI管理接口,支持链路汇聚以及绑定冗余功能,网络高速互联为 GPU 计算集群提供高密度、高性能的节点平台。可用于图形渲染、深度学习、化学分子计算、云计算和虚拟化、计算密集型行业应用。

    助推AI应用发展

    智微智能提供完整且灵活的AI服务器产品组合,通过不断创新和优化,持续提升AI服务器的性能、灵活性和可扩展性,以确保能够适应各种数据规模和AI的应用需求。

    硬件方面,智微智能AI服务器产品采用经过深度优化的处理器架构,借助优异的芯片制程技术,实现卓越的计算性能和能效比。产品兼容多个国产ASIC厂商加速卡 ,配备大规模的高速存储配置,以提供强大的并行计算能力。通过IPMI管理接口,用户可以通过网络接口对服务器进行远程管理和监控,包括监控服务器的硬件状态、重启服务器、更新固件等操作,大大提高服务器的管理效率,有效防止系统出错,保护关键系统数据完整性和可靠性。

    总 结

    智微智能AI服务器,在设计和功能上充分考虑了应用场景的多样性。能够加速数据分析、预测性维护、优化大数据模型等关键应用,为不同场景的AI需求提供了更准确、高效、智能的解决方案。

分享到:
大家在说
发表评论
推荐阅读
智微智能将携重磅新品亮相COMPUTEX 2024智微智能将携重磅新品亮相COMPUTEX 2024作者:pjtime资讯组  24-06-01
智微智能成都工博会创新赋能之旅智微智能成都工博会创新赋能之旅作者:pjtime资讯组  24-04-28
投影 | 智慧家庭 | 商显 | 信号处理 | 会议/监控
电话:010-82755684