关闭
  • 唤醒词识别塞进单片机:为什么只盯准确率会踩坑

    带语音的设备里,有一段代码是从不掉线的。麦克风一直开着,唤醒词检测一直在跑,等你说出那一句话。这个功能叫关键词识别,英文缩写 KWS,它的功耗直接决定了设备要靠多大的电池。把这件事塞进单片机执行,约束就更紧了。一篇被 IEEE Sensors 2025 收录的论文把这条流水线从头到尾测了一遍,得出的结论有点反直觉:光看模型准确率,选出来的方案可能并不省电。

  • 原创

    一副眼镜只有 300 毫安时:常在线听和端侧算,电都花在哪了

    AI 眼镜的续航瓶颈,行业里有个大致公认的数字:整机电池容量普遍在 300 毫安时左右。这点电量要撑一整天的佩戴,还要让唤醒词检测一直在线、让端侧模型随时能跑。结果就是用户每天得充两三次电。要解决这个矛盾,先得搞清功耗都花在哪几个模块上,而这几个模块的账,各自有各自的算不清。

  • 把水印记进小模型:不增加一字节的推理开销

    把模型烧进微控制器之后,它不再是一个可以随时更新的云端服务,而是一件被安装在设备里的实物。复制一份的成本,取决于设备被拆开之后能不能把权重读出来。训练这样一个模型要花几十万条数据、几周时间和一大笔算力,而一次成功的模型提取可能只要几天。这种投入产出上的不对称,是模型水印这门技术存在的理由。

    物联网
    2026-09-24
  • 模型装好之后遇到没见过的东西:不训练的自适应要花多少内存和延迟

    把模型部署到设备上,事情只做了一半。训练时的数据分布和上线后遇到的不一样,光照变了、天气变了、拍摄角度变了,精度掉得比预期快。云端可以重新训练,端侧设备付不起反向传播的算力和时间。

  • 不靠量化也能把 Transformer 塞进单片机,靠的是删块和 BFloat16

    提到把 Transformer 放进单片机,行业里几乎条件反射地给出同一个答案:量化到 int8,激进一点就 int4。但量化本身要付出代价,量化感知训练需要校准集、需要重训,还需要在精度和位宽之间反复试,模型还没上板,先花掉一轮工程成本。

    物联网
    2026-09-21
  • 同一段程序省下三分之一电:单片机调压调频的账怎么算

    电池供电的端侧设备大多活在同一个循环里:采一段数据,算一遍,把结果发出去,然后睡到下一个周期。这个循环看起来没什么可优化的空间,因为采样率是传感器定的,处理量是算法定的。但如果把主控的供电电压和时钟频率当成两个可以逐任务调整的参数,同一段程序在不同任务阶段用不同的配置运行,一个工作周期的总能耗会出现三分之一以上的差距。

    物联网
    2026-09-20
  • 把语音识别塞进一颗单片机,代价写在四个数字里

    一个不需要联网就能听懂指令的玩具,听上去是很小的需求。但把它落到硬件上,问题立刻具体起来:模型要塞进闪存,推理要在内存里跑完,延迟要低到人感觉不到,功耗还得让纽扣电池撑得住。这四个约束互相挤压,最后变成了一个在几十 KB 的尺度上做取舍的问题。

  • 剪枝量化与低秩微调

    端侧推理这件事,难点从来不是「能不能跑」,而是「跑起来之后还剩多少」。一个几百亿参数的模型硬塞进手机或者嵌入式设备,内存装不下、算力跟不上、电池也扛不住。过去几年围绕这个问题长出来的技术很多,它们的共同点是把模型变小,但缩小模型这件事本身是有代价的,而每一种手段付出的代价并不相同。

    物联网
    2026-09-16
  • AI 眼镜的光学困局:视场、亮度、眼盒为什么互相打架

    AR 和 VR 近眼显示要同时满足一长串指标:角分辨率、视场角、眼盒尺寸、焦距线索、透明度、虚拟图像亮度、形态因子、重量、色散。麻烦的地方在于这些指标彼此耦合,调整其中一个,往往会牵动另外几个。