当前位置:首页 > 原创 > 21ic编辑部
[导读]AI服务器上,峰值算力并不等于有效算力。当前国内多数数据中心的算力利用率不足40%,背后存在三道难以逾越的“墙”:内存墙导致CPU与加速卡之间数据反复搬运、延迟飙升,算力空转;传输墙使多组件协作拖累吞吐效率,带宽瓶颈将实际产出压制;成本墙则因额外加速卡叠加硬件、供电、散热、适配与运维开支,使总拥有成本(TCO)上升。

AI服务器上,峰值算力并不等于有效算力。当前国内多数数据中心的算力利用率不足40%,背后存在三道难以逾越的“墙”:内存墙导致CPU与加速卡之间数据反复搬运、延迟飙升,算力空转比例超过40%;传输墙使多组件协作拖累吞吐效率,带宽瓶颈将实际产出压制在60%以下;成本墙则因额外加速卡叠加硬件、供电、散热、适配与运维开支,使总拥有成本(TCO)上升2–3倍。

面对此困局,蓝芯算力将通过LX500智通融合服务器CPU,来实现破局。在第五届滴水湖中国RISC-V产业论坛,蓝芯算力(深圳)科技有限公司生态营销负责人 许庆伟进行了分享。


架构破局:一颗芯片终结分离式算力时代

传统服务器AI推理长期采用“CPU通用计算+PCIe独立AI加速卡”的分离架构。在大模型时代,这一架构暴露出三大结构性缺陷:

1. 数据搬运瓶颈。数据需在CPU内存与加速卡显存之间反复拷贝,延迟随调用频率线性增长,形成系统性能的隐形天花板。

2. 部署成本高。需额外采购独立推理卡,并增加供电与散热开销,导致整机部署成本大幅上升。大量AI项目因总拥有成本过高而难以落地。

3. 运维复杂度倍增。多卡集群带来故障点增多、兼容性适配、驱动维护等运维负担,同时限制机柜密度。

多增加一颗芯片、多增加一个部件,就会显著加大问题定位的难度。这也是此前服务器领域许多算力芯片利用率不足50%、甚至低于40%的重要原因。

而蓝芯科技通过一颗芯片即可同时完成通用计算与AI推理,从传统的CPU+加速卡分离架构,转向单芯片原生融合。蓝芯LX500重新定义了AI时代的算力供给方式。


蓝芯LX500芯片架构

LX500采用RISC-V+AI智能融合架构,集成48核CPU与75 TOPS INT8 AI算力。其核心优势在于实现了统一内存管理。传统分离架构下,CPU与加速卡内存无法共享,造成显著性能损失;而LX500支持统一内存,并兼容DDR5规格,最高可扩展至2TB。这一设计为AI推理与训练提供了充足的内存支持。许多大模型受限于内存扩展能力,传统方案往往需要额外配置2–3张加速卡,导致成本上升。LX500通过在片上原生内嵌75 TOPS INT8 AI算力,有效解决了这一问题。

服务器芯片需应对复杂的工业化场景与大型集群需求。其核心价值不仅在于“跑分”,更在于服务器级性能与稳定性(即RAS特性:可靠性、可用性、可维护性)。LX500专为7×24小时严苛环境下的长时间稳定运行而设计,在安全性与RISC-V服务器标准兼容性方面均达到相应要求。

当前主流AI芯片与GPU在运行大模型时,通常依赖外部加速单元。LX500则直接在内置AI Core上运行Kimi、Qwen等模型,充分体现了“内置AI Core + 大容量可扩展内存”的架构优势。


算力新范式:RISC-V+AI智能体一体机,算力新范式突破口

LX500智能体一体机是AI时代的开箱即用产品。LX500的“智通融合”架构优势最直接地体现在智能体一体机产品中。该产品打破了传统AI部署的硬件壁垒,将强大的算力与便捷的私有化部署融为一体,为企业智能化转型提供坚实支撑。

单芯多核,算力无需外求。无需额外配置独立推理卡,单颗LX500芯片即可并行处理通用计算与高性能AI推理任务,实现“一颗芯片、双重算力”,真正做到开箱即用,极大简化企业部署流程。

直击痛点,安全高效落地。精准解决企业预算有限、缺乏专业运维团队及数据隐私敏感的难题。该方案提供低成本、易维护、高安全的一体化能力,完美平衡算力性能与数据合规,加速AI规模化落地。

自带AI算力的优势与特点,在当前AI时代具备非常好的落地场景。其落地场景在于,AI原生模型可以以一体机的形式部署。传统服务器在形态和应用场景上比较偏向固定场景,而AI一体机在OPC及各种端侧小型化应用场景上的优势较为明显。“单芯多核、自带算力”在一定参数要求范围内无需外插卡。同时,在安全性方面,对于国企、央企及部分特殊行业,本地化部署和安全要求较高,这也是该芯片的优势所在。

从LX500智能体一体机的技术架构来看:最底层硬件包括LX500芯片、开发板、服务器和整机柜。硬件之上是各类软件栈,包括编译器及AI基础架构;再往上是框架层,已适配主流AI框架。最上层是行业应用,涵盖各行业自身的AI需求、算力需求和模型需求。


本站声明: 本文章由作者或相关机构授权发布,目的在于传递更多信息,并不代表本站赞同其观点,本站亦不保证或承诺内容真实性等。需要转载请联系该专栏作者,如若文章内容侵犯您的权益,请及时联系本站删除( 邮箱:macysun@21ic.com )。
换一批
延伸阅读

据研究机构Mercury Research公布的报告显示,今年二季度全球台式机CPU出货量出现了自1994年以来的最大幅度同比降幅。报告称,市场需求下降和OEM库存调整是主要驱动因素。其中,AMD在二季度与英特尔的竞争中...

关键字: ARM AMD 服务器CPU X86

2022年5月24日—— 安谋科技(中国)有限公司(以下简称“安谋科技”)与本土服务器处理器提供商杭州鸿钧微电子科技有限公司(以下简称“鸿钧微电子”)共同宣布在高性能服务器处理器基础架构、生态等方面的深入合作。双方将依托...

关键字: ARM 安谋科技 鸿钧微电子 服务器CPU
关闭