浪潮计算机推出面向大模型训练的创新技术AI服务器
当前，“百模大战”带来了算力需求的爆发，尤其是以ChatGPT为代表的多模态AI大模型，其参数规模和训练数据量均达到了前所未有的规模。GPT-3.5、GPT-4等模型的参数规模突破了万亿级别，训练数据量达到了TB级别，这使得大模型训练成为了一个计算密集型的任务，对算力的需求极高。
近日，浪潮计算机重磅推出基于安全架构的训练型AI服务器NF5698H7，适用于大模型训练、高性能计算、数据分析等多种应用场景，具有性能卓越、随需扩展、稳定可靠、维护便捷和智能调节散热等特点，构建多场景的最强AI创新算力平台。
高速互联是大规模算力集群构建的基础。芯片间、服务器间、集群间的高速互联、无损网络能力建设，是支撑千卡、万卡智能算力集群计算需求的必备条件，大模型的训练需要融合多种并行策略，对卡间P2P互联带宽以及跨节点互联带宽提出了更高的要求。浪潮NF5698H7服务器支持8颗创新全互联OAM加速计算模组，支持高带宽内存，高速网络平面，支持12个PCIe4.0扩展槽位，节点间高速互联扩展，无阻塞带宽RoCE组网，集群级优化架构设计，实现数据网、存储网、管理网分离，满足千亿级参数超大模型并行训练需求。
在产业落地过程中，国内各厂商的加速卡存在硬件接口不统一、互联协议不统一，同时软件生态互不兼容的情况，带来了新型AI加速卡系统适配周期长、定制投入成本高的落地难题，行业亟需更加开放的算力平台，以及更加多元的算力支撑大模型的训练。浪潮NF5698H7服务器一机兼容适配国内最新多类型、多品牌AI加速卡，支持DeepSpeed、Megatron等主流分布式AI训练框架，满足各种AI应用场景下对异构计算算力的极致需求。针对多元芯片管理和调度难题，NF5698H7兼容适配浪潮AI算力调度平台——inAIP智算平台，通过对计算资源、数据资源、深度学习软件栈资源进行统一管理，简化AIGC、CV、NLP模型的开发和部署流程，有效提升大模型算力平台的使用效率，满足用户更成熟、易部署、更便捷的开放生态需求。
大模型对算力的巨大需求，带来了对能源的巨大消耗。据了解，人工智能服务器的功率较普通服务器高6至8倍，训练大模型所需的能耗是常规云工作的3倍。浪潮NF5698H7服务器采用风道解耦设计，通过智能分层调节散热，优化散热性能，相比同级别产品，NF5698H7服务器功耗降低约20%。产品采用12V和54V N+N冗余电源分离供电设计，实现高功耗负载动态匹配，减少电源转换损耗，赋能企业绿色低碳发展。
目前,浪潮计算机已与国内知名互联网企业、云厂商、金融机构等众多行业龙头企业开展深度合作, 为深度学习模型训练、深度学习推理、高性能计算、数据分析、图像视频、语音识别、金融分析、智能客服等典型应用场景提供了开放、高效、安全的AI算力支撑。未来基于多元化AI服务器，浪潮计算机将持续为大模型的发展创新提供高质量算力底座，助力各行业向数智化高速发展。
关键词：
推荐阅读
月壤形成的主要原因 月壤与土壤有什么区别
月壤形成的主要原因月壤形成过程没有生物活动参与，没有有机质，还极度缺水干燥;组成月壤的矿物粉末基本是由陨石撞击破砰形成，因此，粉末 【详细】
域名抢注是是什么意思？投资角度来看什么域名好?
域名抢注是是什么意思域名抢注是通过抢先注册的方式获得互联网删除的域名的使用权。域名是由点分隔的一串数字，用于标记一台计算机或一组计 【详细】
捷达保养费用是多少?捷达是哪个国家的品牌?
捷达保养费用是多少?全新捷达的保修期为2年或6万公里，以先到者为准，新车可享受一次免费保养，首次免费保养在5000-7500km或1年内进行。如 【详细】
天然气泄露会造成爆炸吗?天然气泄漏怎么办?
天然气泄露会造成爆炸吗?家里用的天然气如果泄露是会发生爆炸的。当空气中含有混合天然气时，在与火源接触的一系列爆炸危险中，就会发生爆 【详细】
四部门明确App收集个人信息范围 个人信息保护范围判断标准
四部门明确App收集个人信息范围近日，国家互联网信息办公室、工业和信息化部、公安部、国家市场监督管理总局联合印发《常见类型移动互联网 【详细】
相关新闻
浪潮计算机推出面向大模型训练的创新技术AI服务器
当前，“百模大战”带来了算力需求的爆发，尤其是以ChatGPT为代表的 【详细】
猫咪日特辑：爱企查带你揭秘猫主子的“大牌”之选
自2002年起,加拿大国际爱护动物基金会(IFAW)就将每年的8月8日定为“ 【详细】
抖音商城「数码省钱大玩咖」，带动中小商家数码生意品效双收
「可以买贵的,但不能买贵了」,正在成为新世代年轻人的消费座右铭。 【详细】
什么是三维重建？
随着全球数字化进程加速演进，三维重建技术如同一座桥梁，连接着物 【详细】
引领变革、被行业效仿，贝壳的VR看房到底有什么不一样？
近日，高盛发表研究报告称，维持贝壳股票“买入”评级，并给出理由 【详细】
多彩yeah生活·龙江游乐购 ——黑龙江省消夏不夜生活月闪耀启幕
万里星光，闪耀龙江；嗨购一夏，夜享清凉。8月1日晚，由黑龙江省商 【详细】
深化AI产品多元化布局，浪潮计算机推出两款创新技术AI服务器新品
在当前全球数字化转型加速的大背景下，人工智能（AI）技术已成为推 【详细】
1MORE万魔携手品家，开启电商新纪元——— 双方签订战略合作协议，共铸电商领域新篇章
2024年7月25日上午10点，在全球声学领域和耳机电商行业中备受关注的 【详细】
小花科技推动金融知识普及和财产安全保护
小花科技始终致力于践行社会责任,关注女性职业发展、年轻人就业问题 【详细】
戴尔科技携手合作伙伴，共绘智能时代新蓝图
全球数字化转型的浪潮中，戴尔科技集团以其卓越的解决方案和全球合 【详细】
瑞能半导体携多元成果打造全新“品牌基石” 驭领可持续篇章 为功率器件注入强劲动力
2024年7月19日,中国上海 — 日前,全球领先的国际化功率器件品牌瑞 【详细】
宏碁个人电脑第二季度全球排名前五大！
据市场调查机构IDC最新报告资料显示,宏碁全球个人计算机市占率以6 8 【详细】
人保车险—新车强制险怎么算？人保提供详细的说明
在我国，车辆保有量在不断增加，当车主购买了新车，必须要上保险， 【详细】
超竞玩家火力集结！ROG新品登场BW2024福利送不停！
7月12日—7月14日，万众瞩目的BW 2024即将开启！ACGN文化爱好者们 【详细】
华谦科技，技术驱动发展
华谦科技有限公司是一家专业的第三方检验检测和鉴定机构,主要从事法 【详细】
2024WAIC——“人形机器人的盛会”钛虎“瑶光”“墨翟”惊艳首秀
2024年7月4日 —— 在全球瞩目的2024世界人工智能大会(WAIC)暨人 【详细】
上海电信临港智算谷：算力新引擎，重塑数字未来
文 毛宇摄影 徐大伟当前，算力正以前所未有的姿态重塑着世界。在上 【详细】
“女巴菲特”刘央入局金融AI，邀酷派前总裁秦涛任合伙人
近日，Syzygy Fintech合力天成正式对外宣布，酷派前总裁秦涛先生正 【详细】
通用技术集团战略投资东软医疗
【2024年7月3日,北京】近日,通用技术集团所属资本公司联合中国国有 【详细】
跨境电商下南洋，已被验证的赢家哲学
来源:霞光社100°31′E,13°45′N,是泰国首都曼谷的坐标,这里全年平 【详细】
