边缘AI运行时别只报FPS：尾延迟要能追因

平均FPS正常，控制仍偶尔错过窗口，说明慢帧被均值藏住了。边缘AI运行时要解释每条结果为何变慢，并识别性能基线何时开始漂移。

端到端延迟由采集等待、预处理、排队、推理、后处理和通信共同组成。若各模块各记一份日志，却没有贯穿全链的帧标识，同一时间附近的记录很容易被错误拼接；丢帧、重试和并行处理后，时间顺序更不等于因果顺序。应在传感器产生数据时分配不可复用的追踪标识，并让它随缓冲描述符、推理请求和控制消息传播，任何派生结果都保留父标识。

时间戳也要注明时钟域和戳点含义。驱动回调时刻不是曝光时刻，NPU提交时刻不是开始执行时刻，执行器收到命令也不等于动作生效。跨处理器系统需周期性估计时钟偏移，或者把各阶段映射到统一单调时钟；否则一次温漂造成的时钟分叉，会被误认为排队增长。追踪数据应记录开始、结束和等待原因，单一完成时间无法区分算得慢还是等得久。

可观测性本身不能破坏实时性。逐帧打印文本会触发格式化、锁竞争和存储写入，正好制造要测量的长尾。更适合的方式是预分配二进制环形缓冲，以采样或异常触发方式保留关键事件，后台再转换成人类可读格式。缓冲满时要有明确覆盖策略，并记录丢失数量；若日志静默丢弃，排障者会把缺口当成系统空闲。

追踪标识还必须在取消和超时路径上闭合。请求超过截止期后，调用方可能已经丢弃结果，但加速器仍在后台执行；若随后复用相同序号，新旧完成事件就会混在一起。标识应包含单调递增的代次，取消动作记录是否真正停止硬件，迟到结果只能进入诊断通道而不能触发控制。通过检查每个开始事件都有完成、取消或丢弃终态，才能发现资源泄漏和幽灵任务。这种闭合检查也要覆盖进程重启和环形缓冲回卷，否则长期持续稳定运行后仍可能出现标识碰撞。

建立追踪后，还需要判断什么算退化。固定阈值无法覆盖环境温度、输入尺寸和并发模式，冷启动编译也不应与稳态混在一起。性能基线应按硬件版本、模型版本、功耗档位和场景负载分层，保存中位数及高分位延迟。告警关注分布变化，例如P99连续上升或队列驻留占比突增，而不是偶然一个离群点。

边缘AI的基线漂移常有可解释前兆。散热界面老化会使相同负载下温度更快上升，存储接近满载会拉长模型加载和日志提交，驱动升级可能改变内存拷贝路径。把温度、频率、内存水位、总线计数器和错误重试关联到同一追踪标识，才能从“推理慢了”推进到“因DDR争用多等了多少时间”。指标过多时，应优先保留能区分故障路径的变量，而非无边界采集。

告警必须带可复核证据。触发时冻结前后短窗口的追踪记录、配置摘要和版本号，并对敏感输入做最小化处理；随后用相同工作负载回放，验证问题是否可重现。基线更新也要受控，不能让缓慢恶化被自动学习成新正常。只有完成维护、确认性能恢复后，才应批准新基线；版本发布则先建立独立基线，避免把结构性回归混入历史波动。

所以，性能指标的价值不在于显示一个漂亮均值，而在于保留因果链。贯通帧级追踪并约束基线更新，边缘AI的尾延迟才可定位、可回归、可验收。