干掉通用大模型的，可能是RAG

2026年招标场上的奇怪反转

上个月央企采购网挂出的年度智能客服项目中标公告，炸了一圈。中标方不是我们熟知的任何一家头部通用大模型厂商，是一家名不见经传的北京小公司，主打法律行业RAG方案，报价比第二名的头部大模型低了整整42%。

不信你去翻最近三个月的国内企业大模型招标公告。十份里九份会明确写一句：要求支持私有本地RAG部署。

说实话，放在三年前，没人会把RAG当回事。那时候所有人都在喊千亿参数，都在比参数量，你说你做RAG，人家会觉得你是做不了大模型才蹭热点。现在呢？去年国内企业级大模型项目中，带RAG要求的占比从2024年的32%跳涨到了87%。

很多企业吃过通用大模型的亏了。花几百万买了API权限，把内部数据传上去训练，一来不敢，怕核心数据泄露，二来用不起，头部通用大模型1k tokens调用成本大约0.01元，一个一千人规模的企业用下来，每个月光API费就要小十万，一年就是一百万。同等效果下，用私有RAG+7B开源小模型跑，成本只有原来的1/22，相当于一杯9块9的瑞幸，现在只要四毛五。

我上个月见一个央企的信息中心主任，他说前年集团花了近千万上了通用大模型的内部问答系统，现在使用率不到10%。为什么？回答经常瞎编，涉及内部制度的问题全错，又不敢把最新的内部文档都传上去微调，怕出事。现在换了RAG，所有数据都存在本地机房，回答只从你给的知识库找，错不了，成本还只有原来的十分之一。

谁会跟钱过不去对吧？

本土玩家的生存棋局

很多人说RAG就是大模型的技术补丁，弥补大模型瞎编的问题。不对，这本质是一场商业模式的颠覆战。

训练一个千亿参数通用大模型，成本普遍在1亿到6亿之间，相当于上海陆家嘴滨江一套1000平的顶级豪宅，普通人碰都碰不到。而定制一套垂直行业RAG方案，成本大多不到100万，也就等于一套市中心大平层的首付，中小玩家玩得起。

放在军事语境里看，这场博弈特别有意思：通用大模型是耗费巨资养出来的重装甲军团，每一次调动都要烧大量的钱，而垂直RAG是灵活的轻骑兵，不用攒钱造重甲，只要熟悉地形（摸透行业规则），攒够粮草（高质量垂直知识库），就能精准出击，冲烂笨重的大集团。

杭州的数问科技，今年初拿了美团产业基金的A轮，他们给国内Top10车企里的6家做生产端的RAG系统。核心竞争力是什么？不是他们的RAG算法比百度文心、阿里通义好多少，是他们攒了12年的国内汽车零部件生产工艺知识库，全是结构化的，从原材料检验到出厂标准，全整理好了，头部大模型根本拿不到这个东西。

不过话说回来，头部大模型也不傻，现在都在做RAG开放平台，想让中小玩家把知识库放在自己的平台上做应用，收平台费。我接触过好几个做垂直RAG的创始人，没一个愿意的。为什么？核心资产就是手里那堆知识库，你放到人家平台上，等于把命交给别人，哪天平台给你掐了，或者把你的数据拿去训自己的模型，你找谁哭去？

这个方向我认为头部走偏了。他们总想把RAG变成自己生态的附庸，可RAG天生就是去中心化的。核心资产永远在懂行业的人手里，不在你大模型公司的机房里。本土中小玩家的机会就在这，你扎进一个行业攒十年数据，比你烧十亿训大模型有用多了。

普通从业者的新赛道

别觉得RAG是什么大佬才玩的东西，它给普通从业者打开了一扇全新的门。

原来AI行业的机会，要么是进大模型公司卷算法，要么是去互联网公司卷产品，普通人没机会。现在不一样了，RAG最缺的是什么？不是算法工程师，是懂行业能整理高质量知识库的人。

现在市场上，标注一条结构化的垂直RAG知识，报价是普通AI标注的8倍。普通图片分类标注一块钱一条，RAG行业知识标注能拿到八块，相当于送外卖跑三单的收入，你坐家里整理一条数据就拿到了。我知道广州有个小团队，就靠给医疗行业做RAG知识库标注，一年赚了近两千万，一共才二十多个人。

很多之前做传统企业知识库、做行业百科的公司，前两年还在愁活下去，现在一下子成了香饽饽。我前几个月见一个做建筑行业知识库的老板，前两年还在裁员降薪，现在甲方排队上门给定金，手里压了快三千万的单子做不完。他说自己都懵，攒了十几年的“过时资料”，居然成了抢着要的香饽饽。

对普通开发者来说更不用说了，现在开源的RAG框架遍地都是，不用你懂什么复杂的训练，你只要懂一个行业，把行业知识整理好，调参调好，就能做出比通用大模型好用十倍的行业应用。原来要挤破头抢通用大模型的独木桥，现在RAG给你开了一条高速路，卷不动头部的，都往这边来了。

当每个垂直行业都能用小成本搭出自己的专属RAG大模型，那些烧了几百亿训出来的千亿参数通用大模型，最后还能剩下什么？