联邦学习:被吹了7年的隐私计算圣杯,现在走到哪一步了?

上周跟某城商行科技部的朋友撸串,他把签子往铝盘里一扔,说今年他们部门KPI砍了一半,全砸在联邦学习项目上了。

我问,不是前两年说这东西是隐私计算的万能解吗?

他笑,说解个屁。

这话不是他一个人的感受。从2016年谷歌第一次在安卓输入法场景提出联邦学习概念,到2020年前后国内厂商把这三个字印在融资BP的封面上,再到2023年之后一堆项目落地踩坑,整个行业的情绪像坐过山车——从最开始的“终于能解决数据孤岛了”,到现在的“原来这东西这么难用”,中间隔了整整一轮的资本周期。

先把吹出来的泡沫戳破:联邦学习根本不是“数据不动模型动”的魔法

几乎所有第一次接触联邦学习的人,都会被那句标准宣传语洗脑:数据不出域,模型多跑路。听起来特别美——所有参与方把自己的数据锁在本地机房,不用传出去,大家一起把模型训好,最后所有人都能用。

但真的扎进去做项目的人都知道,这句话半真半假。横向联邦、纵向联邦、迁移联邦三类技术路径的实际适用场景差得十万八千里,根本不能混为一谈。横向联邦是大家手里的数据特征差不多,只是样本不一样,比如不同地区的银行联合训一个通用的信贷评分模型;纵向联邦是大家手里的样本差不多,特征不一样,比如银行有用户的还款记录,电商平台有用户的消费记录,拼起来训更准的模型;至于迁移联邦,是两边的样本和特征重叠度都很低,靠迁移学习把模型的共性抽出来,实际落地的精度掉得能让你怀疑人生。

更关键的是,所谓的“数据不动”,从来不是说什么流量都不传。大家在本地算完梯度,还是要把加密后的参数传到协调服务器上做聚合,这些参数里藏的信息,根本不是完全看不见的。

横向纵向联邦学习技术架构对比示意图
横向纵向联邦学习技术架构对比示意图

之前有人算过一笔账,同样是做输入法的词预测,传统的模式是把用户输入的文本脱敏后传回服务器,带宽成本大概是每用户每月2MB;换成联邦学习,因为要传大量的模型梯度参数,带宽成本直接翻了3倍。更别提当参与方的样本重叠度低于5%的时候,联邦模型的最终精度甚至比单家机构自己训练的模型低20%以上——这不是靠算法补丁能补上的硬伤。

别信销售在台上扯什么“零隐私泄露”。真要零泄露,你连梯度都别传,那模型根本训不出来,对吧?

现在落地的项目,90%都是“伪联邦”

我去年跑了快20个联邦学习的落地项目,发现一个特别有意思的现象:真正从一开始就用全链路联邦架构跑通的项目,占比连10%都不到。剩下的那些美其名曰“联邦项目”,本质上是换了个包装的传统数据合作。

比如某国有大行跟头部互联网平台做的联合风控项目,最开始对外宣传是全链路加密联邦,结果内部人透底,实际流程是两边把用户的ID做哈希匹配,然后把各自的特征做了简单的脱敏处理,传到一个第三方的可信节点上拼接完再训练,根本没做本地的梯度计算。说穿了,这就是以前的数据合作换了个名字,跟联邦学习半毛钱关系没有。

那真的跑通联邦的项目在哪?大部分在医疗场景。

长三角那几个头部三甲医院,从2021年开始联合训练肺癌影像的辅助诊断模型,这个是真的硬需求——医院的病历、影像数据按照规定根本不能出院,以前要做跨院的联合科研,得把所有数据拷到卫健委的中心机房,流程走半年,还容易出数据泄露的问题。换成纵向联邦之后,每家医院在自己的本地服务器上把影像特征算完,加密梯度传给聚合节点,最后训出来的模型,在所有参与医院上的AUC值比单家自己训练的模型高17%左右,这才是联邦学习真正的价值。

三甲医院跨机构联邦学习肺癌辅助诊断流程
三甲医院跨机构联邦学习肺癌辅助诊断流程

现在整个赛道的玩家大概分三类:一类是大厂自己做内部生态的,比如微众、蚂蚁,用联邦做自己体系内的联合营销、联合风控,根本不对外卖;一类是以前做安全网关、隐私加密的厂商,给产品加个联邦模块就出来接项目;还有一类是初创公司,盯着金融、政务的大额项目打。我上次去某初创公司的发布会,台上的人讲了半小时平台的性能优势,台下三个客户一直在刷短视频——谁都知道,只要中标价格压得够低,谁管你是真联邦还是假联邦。

绕不开的坎:不是技术,是利益分配

很多技术圈的人讨论联邦学习的瓶颈,第一反应是梯度泄露、同态加密计算成本高、模型精度损失大。这些问题确实存在,但真到了项目谈判桌上,这些问题连前三都排不上。

最核心的矛盾,是利益怎么分。

举个最常见的场景:银行手里有用户的还款行为数据,互联网平台手里有用户的消费行为数据,大家联合训一个风控模型,最后模型上线,能帮银行多放几个亿的贷款,能帮平台多赚几个亿的交易佣金。以前没有联邦学习的时候,银行直接把自己的用户标签卖给平台,拿固定的分成,账算得很清楚。现在用联邦训完模型,平台说算法是我提供的,我要拿70%的收益;银行说数据是我的,我凭什么只拿30%?谈不拢,项目直接黄。

还有治理层面的空白,比技术漏洞更致命。之前有学术团队做过实验,只要拿到连续10轮的梯度更新记录,能把参与方手里30%的原始数据反推出来——这个问题现在靠差分隐私加噪音能缓解,但噪音加得太多,模型精度又掉得厉害。更麻烦的是,现在的监管规则根本没跟上:按照个保法的要求,处理个人信息要符合最小必要原则,那联邦学习里传的加密梯度,到底算不算个人信息?如果算,那企业跨机构传这些参数,是不是要重新拿用户授权?现在法律上连个明确的界定都没有,这就导致很多企业不敢真的放开跑——万一哪天监管说你传的梯度就算个人信息,之前所有的项目都得整改。

联邦学习的治理空白,已经比技术本身的漏洞更影响落地。以前数据出域的时候,大家还能找到明确的责任主体,现在模型是跨了好几个机构共同训出来的,最后模型出了错——比如把一个正常经营的小微企业的贷款拒了,谁负责?是算法提供方?是数据提供方?还是聚合节点的运营方?现在没有任何规则能说清楚。

3年后的联邦学习,根本不会是现在大家吹的样子

别信那些厂商说的“联邦学习会重构整个数据要素市场”,扯太远了。真正的判断,其实没那么复杂。

首先,联邦学习根本不会成为所有隐私计算场景的主流。它只会在数据敏感性极高、参与方数量在3-10个之间、业务目标高度一致的场景里活下来——比如三甲医院的联合科研、持牌金融机构之间的联合风控、政务跨部门的公共服务模型训练。那种动辄上百个参与方、大家各怀鬼胎想从别人兜里掏数据的场景,根本跑不起来。

其次,技术迭代的方向,根本不是追求什么“零隐私、高精度”的完美状态,而是找一个能被业务接受的平衡点。比如梯度传输的时候加多少差分隐私的噪音,既能让攻击者的反推成本比直接买数据还高,又不会让模型精度掉得没法用;比如计算成本降到什么程度,企业能付得起这个钱——这些才是真正要解决的问题。世界上没有完美的技术,所有的技术落地都是在成本、收益、风险之间找平衡。

最后,别把联邦学习当成救世主。它只是一个工具,能帮大家在不挪动原始数据的前提下做联合训练,但解决不了数据要素市场里最核心的定价、确权、责任划分的问题。这些问题不解决,就算把联邦学习的技术吹上天,最后也只能是一堆躺在机房里的演示项目。

说真的,我最烦现在的行业风气——一个技术刚出来,先吹成下一代革命,吹到估值翻十倍,然后落地的时候发现一堆问题,就开始骂技术没用。联邦学习没那么神,但也不是完全没用。至少现在,那些被锁在医院、银行机房里的高敏感数据,终于有了一个能在合规前提下产生价值的路径。

至于那些吹得天花乱坠的故事?等下一个资本周期来了,自然会有人拆穿。

作者|大讲堂

排版|大讲堂

审核|柚子

免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。如有侵权请联系删除。
文章名称:联邦学习:被吹了7年的隐私计算圣杯,现在走到哪一步了?
文章链接:https://lfdjt.com/info_23_28382.html