车间老师傅聊边缘计算实时推理：别吹概念，解决真问题

上个月后夜班，我刚查完磨床的导轨间隙，调度就砸开了休息室的门。 客户退了三个凸轮轴，磨纹里藏着头发丝细的微裂纹，漏检了。十万罚款，厂长签字的时候脸都绿了。 原来我们用的云端AI检测，每磨完一根，图传上去，等结果回来要四百多毫秒。我们线节拍是30秒一根，提前上料的间隙卡得死，根本等不起。 这时候才想起，供应商上个月提的那台装在磨床边上的小盒子。就是做边缘计算实时推理的。

磨床边上的小盒子到底在算什么

很多人一听这个名词就觉得玄乎，说白了就是把原来放在云端的AI推理，挪到生产设备旁边来算。 要满足生产要求，卡得死死的三个指标，我记的门清。 第一，推理延迟必须小于100毫秒，晚了就耽误上线。第二，整个模型大小必须压缩到8MB以内，才能塞进那个巴掌大的工业网关里。第三，缺陷识别准确率不能低于99.7%，不然照样交罚款。 现在主流有两条路走。一种是把训练好的大模型剪裁剪裁压进边缘端，另一种是直接针对场景训练一个轻量化小模型。 说实话，各有各的烂事。大模型裁剪出来的准确率确实高，泛化性也强，但是压缩完最少也得三十多MB，中低端网关根本跑不动，功耗还高，夏天动不动就过热死机。小模型呢，体积小，几MB就能放下，跑起来顺溜，但是没见过的缺陷，基本就是瞎蒙。 不过话说回来，行业内通常不说但实际都在做的妥协，你猜是什么？ 我们根本不需要识别100%的缺陷。把95%以上最常见的裂纹、偏磨这些缺陷交给小模型，剩下5%拿不准的，直接打标流去最后的人工复检。既满足了节拍，又控制了成本，皆大欢喜。 工业凸轮轴磨床边缘计算网关安装现场图

不同场子的要求，差得真不是一点半点

我前两年帮朋友的光伏组件厂搭过一套方案，才知道不同场景对边缘计算实时推理的要求，完全不是一回事。 我们机加工车间，核心要求就是抗造。车间里电磁干扰大，冬天开门零下，夏天机床边上四十多度，网关必须宽温抗干扰，能扛住冷却液溅，还不能占地方。我们车间这套，装了快一年，除了停电，从来没宕过机。现在漏检率从原来的千分之三，降到了十万分之一，再也没交过罚款。 光伏厂那边呢，要的是大图像快处理。他们生产线做EL缺陷检测，一块组件要拍一张四千万像素的图，节拍是2.5秒一块，必须走到下一工位之前出结果。传云端？别说带宽够不够，光传图就要两秒，再等推理结果，早就误节拍了。 用边缘计算实时推理，本地处理完，只把缺陷结果和打标信息传上去，原图存在本地定期清，2秒就能出结果，刚好卡得上节拍。跑了半年，错判率比原来人工检降了八成，一年少出两千多块不良组件，赚回设备钱还剩不少。 光伏组件EL缺陷边缘检测现场实拍图

热起来之后藏着的暗礁

热起来之后藏着的暗礁 这两年边缘计算火，进口替代的政策也支持，原来一块进口边缘AI芯片要大几百，现在国产的一两百就能拿下，性能完全够一般工业场景用，门槛确实降了很多。 而且说实话，边缘推理本身就比全量传云端更省电，省带宽。我们车间十条线改完，一年省了快六万的电费和带宽费，刚好符合绿色制造的要求，全是实打实的好处。 但是有个行业内没人愿意公开说的事，我今天唠出来。 现在根本没有统一的边缘推理性能测试标准。厂商给你看的延迟、准确率，全都是单设备空载环境下测出来的漂亮数据。实际到车间，一个网关带三四台设备，同时跑推理，加上车间的电磁干扰，网络波动，延迟翻个两三倍都是正常操作。 很多项目刚安装调试的时候好好的，一满产就卡节拍，最后要么降产能，要么换设备，白花好多冤枉钱。采购大多不懂这里面的门道，只会比价格，便宜几十块就选便宜的，踩坑的真不是一个两个。 我干了二十二年机加工，见过太多吹得天花乱坠的高科技，到车间转一圈就露馅。 我自己总结的土经验：能跟上生产节拍的，才是好东西。 你们厂子装边缘计算实时推理的时候，有没有遇到过厂商吹牛皮实际掉链子的事？欢迎出来唠两句。