边缘计算:跑在离你半米远的数字脉搏

去年12月在杭州拱宸桥边上的loft创业办公室,老陈把刚调试完的第三代导盲眼镜往我脸上扣,镜片边缘还沾着他早上买葱包烩蹭的甜面酱印。

半米的延迟,能要了一个人的命

他之前踩的坑说起来都让人心疼。最早做导盲设备的时候,整个团队想当然把所有视觉识别的算力都架在公有云上——眼镜拍的路牙子、斜冲的电动车、飘到脚边的塑料袋,全部打包成视频流,顺着光缆传到几百公里外的中心机房,算完障碍物的位置、距离、移动速度,再把指令传回眼镜的扬声器。

平均延迟1.2秒。

我第一次戴着试版在办公室外的人行道走,巷口突然冲出来个骑共享电驴的小哥,眼镜足足晚了一秒多才扯着嗓子喊“前方障碍物”,我吓得往后跳了半步,差点把手里的热豆浆泼到路过的猫身上。老陈站在旁边脸都白了,说上个月有个视障用户反馈,过马路的时候因为300毫秒的延迟,没躲开斜插过来的外卖车,膝盖缝了四针。

说穿了根本不是技术不够好,是距离不对。人走路的速度是每秒1.2米,300毫秒的预判差,就是40厘米的反应距离——等你听到“躲开”两个字的时候,脚已经踩在电动车的轮胎边上了。

导盲眼镜实时识别路障运行场景
导盲眼镜实时识别路障运行场景

把算力塞到墙缝里

后来老陈带着团队熬了三个月,把原来上G大小的目标识别模型,剪到只剩30%的体积,塞进了导盲眼镜镜腿里那个指甲盖大的本地NPU芯片里。

这就是边缘计算最朴素的起点。

不是行业报告里写的那些玄乎的“分布式算力架构”“云边协同网络”,说白了就是把“算”这个动作,从远在天边的中心机房,挪到离你半米远的设备上。简单的、急的、容不得等的事儿,当场就算完,根本不往远了传;复杂的、不着急的——比如今天走了哪条路,遇到了几个障碍物,攒着晚上你回家了,再把数据传到中心机房,给模型做迭代升级。

我第二次戴着改完的眼镜,在文二路的非机动车道边站了十分钟。一个外卖小哥骑着车贴着我胳膊冲过去,眼镜几乎是在他离我还有两米的时候,就用压得很低的声音报出“右侧0.8米,非机动车,快速移动”,延迟压到了28毫秒。我当时鸡皮疙瘩都起来了。

现在他们连小区的安防系统都改了。之前物业的摄像头,把24小时的录像全部传到监控室的硬盘里,找个跑丢的猫得翻三小时的录像。现在摄像头自带的小芯片就在镜头边上算,只要看到没牵绳的狗、推电动车上电梯的住户、在单元门边上徘徊的陌生人,当场就给保安的对讲机发提醒,根本不用把整段视频往中心传。算下来整个小区的带宽成本砍了70%,连换硬盘的钱都省了一半。

家用路由器内置边缘计算模块拆解图
家用路由器内置边缘计算模块拆解图

那些不被“云”记得的私密

那些不被“云”记得的私密
那些不被“云”记得的私密
老陈说之前有个戴导盲眼镜的小姑娘,用旧版云架构的设备时特别不自在。因为眼镜拍的所有实时画面,都要顺着公网链路传到中心云,她有时候在家换衣服、在小区楼下跟邻居唠家常,那些画面都要在服务器的硬盘里过一遍。她跟老陈吐槽,“我总觉得有双眼睛隔着几百公里盯着我换裤子”。

换成本地边缘计算的版本之后,所有实时识别都在眼镜的芯片里完成,根本不会把原始画面传出去,只有模型需要更新的时候,才会把脱敏后的轮廓数据——抹掉所有人脸、所有可识别的个人特征的像素块,传到服务器做训练。小姑娘现在戴眼镜出门,再也不刻意把镜腿往下滑挡眼睛了。

这事儿说起来真的有点讽刺。我们之前花了十几年的时间,把所有的计算、所有的记忆、所有的日常,都搬到了越来越大的中心机房,总觉得集中起来的算力效率最高、最方便。可慢慢的大家发现,那些最急的、最私密的、最带着烟火气的事儿,根本不适合存在远在天边的机房里。

比如你家智能门锁的人脸,凭什么要传到千里之外的厂商服务器上?万一被拖库了,全小区的人脸数据都漏了怎么办?比如你家里的智能摄像头,凭什么要把你在客厅吃火锅、跟家人吵架的画面,全部传到云端存三个月?现在新出的一批家用路由器,都开始自带边缘计算模块,门锁拍的人脸、摄像头识别的异常动静,全部在你家玄关那个小盒子里算完,根本不往外传。

上周我妈给我打视频,说小区换了新的智能快递柜,取件码的识别就在柜子的屏幕边上完成,不用把你取快递的照片传到云上去。她在电话那头笑,说这才像个过日子的东西嘛。

之前我总觉得,技术的演进就是往“大”的方向走——机房越建越大,算力越堆越集中,像个站在数字世界中心的巨人,伸手就能摸到所有的数据。可慢慢的大家发现,巨人的反应太慢了,他听不清你在耳边说的悄悄话,他赶不上你躲电动车的脚步,他甚至记不住你家楼下那棵每年春天飘满飞絮的梧桐树。

前几天老陈给我发消息,说他们现在在给浙西山区的小学做边缘计算的课堂盒子,就是把原来要拉100M专线、要连云端才能用的AI科普课,直接塞到一个鞋盒大的设备里,放在教室的角落。哪怕山里的光缆被暴雨冲断了,孩子们照样能跟AI学认植物、学画水彩画。

我问他,那中心机房以后干嘛用?

他说,当仓库呗。存点大的、沉的、不着急的东西就好。那些离人近的、急的、带着温度的事儿,就让身边的小芯片来算。

作者|大讲堂

排版|大讲堂

审核|小北

免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。如有侵权请联系删除。
文章名称:边缘计算:跑在离你半米远的数字脉搏
文章链接:https://lfdjt.com/info_23_25741.html