人工智能持续学习中的回放与冻结取舍

模型学习新批次后，旧任务性能下降，往往源于参数更新改写了原有判别结构。人工智能持续学习需要决定两件事：有限历史样本怎样参与新训练，以及哪些参数应继续适应、哪些参数应保持稳定。

经验回放通过在新数据训练时混入旧样本，让优化目标同时保留对历史分布的约束。若只用新批次更新，共享特征可能沿着有利于新任务的方向移动，使旧类别原本可分的区域相互挤压。回放不是简单复习文件，而是让旧样本继续产生梯度，抵消部分偏向新分布的更新。但缓存容量有限时，真正决定效果的是它覆盖了哪些决策边界，而不是存下多少条重复记录。

蓄水池采样能够在固定容量下，使已经到达的数据条目具有相同的被保留概率，适合不知道数据流总长度的情形。不过，条目均匀不等于类别均衡；若正常样本长期占绝大多数，缓存里仍可能缺少稀有故障。按类别设配额可保住少数类别，却改变了训练时看到的比例，需要依据目标分布调整混合方式。两种选择服务于不同目标，不能把均匀抽样直接解释为业务风险覆盖完整。

缓存还应保留标签版本与采集条件，防止把已经确认错误的旧标签反复注入。评估时，要记录每一轮更新之后各个历史任务的指标，而不只看最后一次的总准确率；否则新增大量容易样本可能掩盖旧类退化。回放频率和新旧损失权重也需共同控制，旧样本占比过高会削弱对真实变化的适应。若制度禁止保存原始历史数据，这条路径就不能默认可用，应转向其他保留约束。缓存更新和抽样训练最好分开记录，避免某些高频样本因多次到达而反复占据配额。对来自同一运行片段的连续帧，可以限制近似重复记录的数量，把容量留给不同状态下的边界样本，而不是把存储量误当成经验多样性。

另一种思路是在参数层划出稳定区域。冻结旧编码器，只训练新任务头，可以避免旧编码器被新梯度改写；若旧推理路径完全保留，旧功能更容易保持。代价是新任务只能利用现有表示：原来没有编码的缺陷纹理或新的信号频段，不会因为更换分类头就自动出现。冻结适合新旧任务共享充分底层特征的条件，不能只凭训练参数少就判断迁移一定成功。

当现有表示不足，可以为新任务增加独立分支、适配模块或有限的新容量，减少直接覆盖旧参数的程度。人工智能系统采用这种隔离方式时，需要同时安排推理路由：若任务身份已知，可以选择对应分支；若任务身份未知，选择错误分支仍会导致失败。新增参数是否完全隔离也必须检查，若旧任务仍依赖一个持续更新的共享归一化层，所谓冻结就可能没有真正固定旧输出。

回放与冻结可以结合，但不能靠叠加策略回避资源预算。缓存消耗存储并增加训练样本量，独立分支增加参数和部署维护成本，完全冻结又可能压缩新任务上限。应在相同内存、训练步数和推理开销下比较旧任务保留与新任务适应，而不是给某种方法额外资源后宣称机制更优。对确实发生概念变化的标签，还应区分合理更新与遗忘，避免强行维持已经失效的旧规则。

持续学习的取舍在于把历史约束放到数据还是参数中。缓存能否覆盖旧边界、固定表示能否支撑新任务，应一起决定更新方案，而不能只看新批次训练是否收敛。