驱动全场景智能应用：海光信息解析AI计算的“先进替代”与算力下沉趋势

人工智能已经从“对话框”向生产实践转移，而国产算力作为AI的计算底座，也已经从从简单替代到先进替代的市场需求演进。

2026年7月9日-11日，光合组织2026智能计算应用大会在郑州举行。作为光合组织核心成员单位，海光信息首次集中呈现“云边端”完整算力体系。本次大会聚集了行业内的多位专家与领导。在群访环节中，海光信息副总裁应志伟、海光信息总裁助理、创新产品线总经理李成、海光信息服务器产品部总经理张攀勇以及光合组织嵌入式产品专家张考华接受了媒体采访。几位就人工智能发展趋势、信创市场的需求演进、算力基础设施的普及、Agent时代的硬件逻辑变化、AI for Science的技术特点以及嵌入式产品的安全与布局等多个热门话题，分享了自己的洞见。

人工智能从对话向生产实践的范式转移

当前人工智能行业正在经历重要的转型。应志伟在采访中指出，行业已经观察到了人工智能的巨大发展。从今年开始，Agent成为了一个关键的方向。人工智能的应用不再局限于过去简单的问答交流。它已经开始从对话阶段向生产实践阶段迈进。这种转变在国外的大模型公司中表现得非常迅速。这些公司的市值已经达到了上万亿美金。过去被认为非常复杂的编程行业正在被人工智能改变。人工智能现在能够解决编程问题。后续还会出现各种各样的其他应用。国内的互联网公司和大公司也都在向Agent方向发展。大模型正在被真正运用到生产方面。

在过去十几年的大趋势下，行业对算力的需求持续增长。这种需求目前还看不到边界。无论是CPU还是GPU，算力的需求都没有尽头。企业和机构都在增加算力投入。他们希望拥有更好的大模型和Agent。应志伟在回答提问时表示：“过去觉得编程是非常复杂的问题，非常难的问题，但现在大家看到了人工智能真正能够把编程解决掉，后面还会跟着其他各种各样的应用，包括像国内的很多互联网公司、大公司都在往Agent方向走，会把大模型真正用到了生产方面。”

在这种大趋势下面，整个业界后面对于算力的需求（无论是CPU、GPU）目前还看不到尽头，大家都在疯狂的去堆算力，希望能够有更好的大模型，更好的Agent。而海光也正是看到了这样一个大的机会，希望给整个业界能提供更好的算力，通过CPU、GPU，来帮助中国整个产业制造能力继续发展。

从简单替代到先进替代的市场需求演进

国产化替代已经发展了一段时间。市场对国产化芯片和设备的接受度已经完全建立。应志伟认为国产替代已经进入了第二阶段。过去客户使用国产产品可能是为了完成特定的任务。当时的产品在好用程度上可能存在不足。但现在的客户需求发生了变化。他们不仅要求产品可用，更要求产品好用。客户开始主动选择国产芯片。这种合作被定义为“先进替代”。

先进替代意味着国产芯片企业能够提供国外供应链无法提供的价值。例如在系统改造和抗量子迁移方面。海光正在与运营商和金融企业展开相关合作。在某些技术点上，国内企业已经可以超越国外的同行。应志伟在论述这一变化时谈到：“什么叫先进替代？过去只是替代，我们现在开始先进替代，就是我们跟国内这些企业的合作能够赋予他们过去跟国外这种属性的合作他们没有办法带来的价值。”

这种价值体现在方方面面，比如给运营商、金融企业等客户做抗量子的迁移，这正是国外的芯片企业或者国外的供应链无法提供给客户的。应志伟坦言，现在整个国内的国产替代已经发展到第二阶段，而海光在某些点上已经可以超越国外部分同行。

算力作为基础设施的泛在化趋势

算力的应用正在改变普通人的生活。Agent的出现带来了质的变化。过去的大模型在回答准确性上存在限制。现在，在投资数据分析、PPT文本生成、教学题目编写等领域，人工智能已经开始提升生产力。算力正在像水、电、互联网一样普及。尤其是我们的年轻一代对这些技术的接受度更高。他们在学习过程中会天然地使用这些工具。

应志伟认为，算力以后会无处不在。每个应用都会接入算力。用户甚至可能意识不到它的存在。关于算力接入家庭的方式，他认为大算力中心依然重要。因为大模型的训练需要极高的算力支持。但同时，不同行业和个人对模型的需求存在差异。有的场景需要上万亿参数的大模型。有的场景只需要几个B参数的小模型。例如摄像头处理人脸或电源检测。这些场景对延迟有要求，本地处理更有意义。应志伟说：“以后所有的设备都会有这个能力，大的这种基建从机房，它一定会去处理这种最高端的，大模型算力要求或者对大模型的要求最高的场景，但场景一定会越来越丰富。”

此外，大模型的成本正在降低。国内的电力和算力基础设施对智能应用非常友好。应志伟提到：“现在国内的大模型已经是非常便宜的，国内的整个大基建、电力、算力，对于把人工智能推向智能应用是非常友好的。Token费不会成为一个很大的负担。”

Agent时代背景下CPU与GPU的工作负载重构

在AI时代，公众通常将算力等同于GPU。但随着AI应用范式的转变，CPU的作用正在凸显。在智能体（Agent）的工作流程中，任务编排、工具调用、数据处理和记忆功能主要依靠CPU完成。GPU则更多负责模型推理。张攀勇观察到，CPU和GPU的工作负载比重正在发生明显转变。

在过去的数据中心场景中，CPU与GPU的比例通常是1:4或1:8。由于现在的负载中增加了沙箱、存储、数据库和向量计算等内容，这种比例已经发生了变化。张攀勇介绍，最初在AI时代，行业普遍首先将算力与GPU紧密联系。然而，随着AI应用范式从单纯的对话和基础推理，演进到以Agent（智能体）和“无处不在的Token”为代表的新阶段，AI需要承担更复杂的任务，这也使得CPU在整体工作负载中的重要性显著提升。在目前的智能体工作流中，诸如任务编排、工具调用与处理、后台复杂逻辑处理以及长期记忆维护等核心功能，实际上都主要依赖CPU来完成；而GPU则更多专注于模型本身的推理工作。

这种应用范式的转变，正直接驱动底层硬件配置比例发生深刻变化——过往传统模式下：智能计算主要采用双路GPU服务器，即1颗或2颗CPU搭配8颗GPU，CPU与GPU的配比通常在 1:4 到 1:8 之间。而随着数据中心场景下引入了更多沙箱、存储、数据库以及向量计算等多样化负载，CPU与GPU的算力配比目前已逐步演变成 1:1，且预计未来CPU的比重还将进一步增加。

而海光的策略则是双芯驱动——即CPU和GPU紧密耦合。通过优化CPU的计算能力、生态兼容性、安全性、可靠性和高密度特性，来支撑未来的AI计算。

AI for Science对算力精度与管理的特殊要求

AI for Science（AI4S）是当前的热门领域。李成指出，AI4S的结构非常复杂。它不仅需要加速卡提供算力，更需要一个综合的管家来管理数据流转。在这个过程中，CPU发挥了不可替代的作用。李成总结了海光CPU在AI4S领域的三大优势。

首先是算力数据吞吐的管理。在气象计算、蛋白质折叠等任务中，数据量巨大。CPU负责数据的前期分流和综合运算。其次是精度保障。常见的大语言模型多使用16位或8位低精度数据。但AI4S基本要求双精度64位数据格式。很多AI加速卡无法满足这种高精度要求。CPU的浮点运算能力在此处具有决定性作用。最后是生态兼容性。海光CPU兼容x86传统工具和软件工具链。这对科研院所非常重要。因为科研工作中存在大量小众冷门软件和利旧硬件。李成详细解释道：“我想在这个过程中，海光至少有三个不可替代的作用，这也是保障CPU在这一领域发挥愈发关键作用的基础。”

·第一，海量数据调度与吞吐支撑： 以气象计算、蛋白质折叠等典型科学计算为例，其面临的数据量极其庞大。在整体数据的管理、流转与吞吐过程中，CPU在前期数据分流及综合运算的全局调度中起到了关键性的主导作用。

·第二，高精度浮点运算保障： 不同于大语言模型普遍采用的半精度（16位）或四分之一精度（8位）等低精度数据格式，“AI for Science”普遍要求双精度（64位）的高精度数据格式。由于多数AI加速卡无法满足这一硬性要求，海光CPU的高精度浮点运算能力在此处提供了决定性的算力支撑。

·第三，生态兼容性与成本优势： 海光CPU兼容传统的x86生态。针对科研院所中大量存在的小众/冷门软件以及需要利旧的传统硬件，这种兼容性使科研机构能够无缝、顺畅地运行既有的软硬件体系与工具链，从而在降低迁移与时间成本方面起到了决定性的支撑作用。

端侧元年下的嵌入式产品市场与技术路径

张考华提出，2026年被定义为端侧AI的元年。AI的时代正在从云侧训练算力向端侧推理算力蔓延。中国在算力基础设施和芯片丰富性上具有路径优势。除了通用GPU，市场还出现了大量的NPU、TPU、BPU等专用处理器。这些处理器正在进入千行百业。

海光正在推进算力下沉。从高端算力芯片向更贴合生活场景的端侧芯片延伸。张考华认为人工智能的意义等同于当年的互联网革命。AI时代有一个自然的演化曲线。初期是高投入阶段。现在正在转向关注产出和场景落地。云侧算力开始向端侧算力布局。未来十年，需求将从基础设施转向具体的应用场景。张考华在采访中表示：“2026年也就是端侧的元年，传统的训练开始往端侧蔓延，高端的算力要求，就是训练要求开始往推理要求，这个就让整个AI时代变得更加丰富。”

针对公众关于普通人是否用得起算力的考量，从目前的产业发展路径与趋势来看，算力的普及化具备坚实基础，中国路径凭借产能优势以及研发团队的丰富性，正推动芯片级算力日益丰富且成本递减。在云端和训练端，通用GPU主要负责提供海量的大规模训练算力；而在端侧领域，NPU、TPU、BPU等各类“XPU”大量涌现并深入到千行百业与日常生活中，呈现出爆发式增长。与此同时，随着算力网络和硬件生态的演进，芯片及系统间的数据互联方式正变得越来越多样化与高效。此外，安全性也已成为当前业界关注的重点，算力安全的整体防护正在全面覆盖，实现了从传统的云侧安全向端侧安全的延伸与渗透。

海光在2024年开始积极布局嵌入式产品线。目前已经开发了多款产品，形成了云、边、端三位一体的协同发展趋势。李成认为嵌入式产品规模化落地的难点在于业务的分散性。企业规模不像服务器和PC厂商那样集中。板卡类型极多，客户群体广泛。

为了应对这些困难，海光积极展开布局。一是内部成立专门的产品线和生态支撑团队。二是利用行业资源关系。通过头部OEM、ODM厂商去辐射和支撑更大的生态。张考华补充道，海光正在将服务器领域积累的技术向端侧迁移。嵌入式设备具有泛在性。它存在于工业控制、低空经济、机器人等各个领域。这种泛在性决定了其异构性和部署的复杂性。

同时不可忽视的是，AI对传统嵌入式的改造也带来了研发模式的冲击。过去研发人员更多考虑操作系统上的应用。现在则必须考虑未来运行什么模型。不同端侧算力卡的选择以及内存带宽的选择，都会对设备运行产生巨大影响。而这正是海光的优势，海光将利用CPU优势和光合组织的生态优势来应对这些挑战。

芯片级安全对系统性风险的底层保障

在AI时代，安全问题被放大。大模型可以快速发现零日漏洞。过去依靠人工防御漏洞的方式已经难以应对现在的速度。应志伟指出，大模型已经读取了互联网上几乎所有的源码。因此它对软件漏洞非常了解。应志伟谈到：“过去挖漏洞，挖的也慢，修的也慢，我觉得大家都还可以接受，现在可能是完全不一样了。” 在大模型时代，AI可以通过学习互联网上的海量开源代码来识别和利用软件层面的漏洞。但尽管如此，硬件层面由于其独特性，在防御AI攻击方面正展现出核心价值。

硬件与软件相比具有两项天然的防御优势。首先，硬件内部的设计与实现逻辑具有较高的封闭性，大模型无法像获取开源软件源码那样直接掌握硬件的内部构造，从而在分析硬件漏洞时面临天然障碍。其次，硬件具有不可篡改性，芯片在代工厂生产完成后其物理结构便已固化，无法像操作系统或软件程序那样被轻易攻破或恶意篡改。

而海光凭借着深厚的安全技术积累，在CPU和DCU等芯片内部集成了诸多软件无法替代的安全防护机制，例如可信根植入、密码压缩、密钥管理、机密计算以及控制流保护等。当前针对大模型的攻击手段仍主要集中在“软件攻击软件”这一相对容易的层面，而直接攻击硬件的难度极高。

基于这些特性，将安全防护机制从软件层向下延伸至硬件和芯片内部，已成为抵御AI时代新型安全威胁的有效手段。目前，安全重心下沉到硬件已逐步发展成为行业共识与重要趋势。端侧安全同样重要。过去的安全重点在于云侧。但端侧设备涉及到物理破坏性。安全事件往往从端侧发起。海光正在将IT基础设施中的安全技术向端侧迁移。

结语

光合组织2026智能计算应用大会展示了海光信息在AI算力领域的全景布局。从数据中心到边缘侧，再到嵌入式端侧，算力的范式正在发生改变。CPU与GPU的协同工作、AI for Science的高精度要求、端侧AI的爆发以及芯片级的内生安全，共同构成了当前智能计算的技术底座。海光信息正通过产品布局和生态建设，支撑各行各业的智能化转型。