2026-08-29 23:03:52 分类：科技
研报门炸出的真需求
2026年开年，国内头部券商的一则内部通报悄悄炸了科技圈。入职两年的新分析师，把过去十年投行部所有同赛道研报、公司公告、行业数据一股脑喂进了支持1M上下文的大模型，一天出了三份深度研报，准确率比熬了三个通宵的 senior 还高8个百分点。
结果是，新分析师被停职整改，理由是「违规滥用核心内部数据」。但圈子里的讨论根本停不下来——原来长上下文不是实验室里的玩具，已经真刀真枪抢饭碗了。
券商分析师用长上下文大模型撰写研报工作场景
说实话，之前我听圈里人聊长上下文，全是「百万token」「整本书一次处理」这种飘在天上的词，普通从业者根本没概念。这次终于落到了具体的干活场景里。
有人说，长上下文能力越大，对行业越有帮助，这还不好？我先给你报个数：1M上下文窗口的推理成本，是当前主流128k的整整7倍，相当于一家50人规模的中型券商研究所，每个月要多花出整个技术团队的工资成本，才能给所有分析师开这个权限。
贵也就算了，坑还多。你试过让大模型处理上百万token的内容，它会把三十年前的旧数据当成最新结论给你，出了错你翻遍整个上下文都找不到它在哪瞎编的。
很多人吹长上下文要颠覆所有行业，说白了，都是卖模型的在带节奏。用户要的不是越长越好，是找得到对的内容，对吧？
两种路线的生意经
现在长赛道里，早就分成两派，打得不可开交。一派坚持做原生长上下文，硬堆窗口容量，我就是能把所有内容都放进上下文，不用额外折腾。另一派走检索增强RAG路线，只把你当下需要的内容抽出来放进窗口，够用就好，绝不浪费。
放在中国本土市场看，玩家的站队其实特别有意思。智谱AI去年直接扔出GLM-4-100M原生长上下文，直接把窗口拉到了百万级，喊出「所有内容一次处理」的口号，赚足了眼球。百度文心一言走的是骑墙路线，既开放原生长上下文接口，也给企业做定制RAG方案，两边钱都赚。字节跳动更精明，悄悄在端侧大模型上打磨128k长上下文，不跟你卷云端的百万窗口，主打一个「用户自己的内容自己存在本地」，成本直接砍到云端的十分之一。
大模型原生长上下文vsRAG检索增强技术路线对比图
这里头的门道，哪是什么技术路线之争，全是赤裸裸的生意博弈。我再给你算笔明账：训练100M原生长上下文的大模型，需要的训练数据量，相当于把整个中国国家图书馆的中文藏书全扫一遍，整体训练成本比128k基础模型贵出整整12倍，生成速度却慢了60%。
贵出来的成本最终是谁买单？当然是买服务的客户。你要用更大的窗口，就得买更高配置的云服务，就得付更多的token费用，云厂商和大模型底座厂商赚得盆满钵满。
这场路线之争，其实很像生物进化的两个方向：原生大窗口走的是恐龙的进化路线，靠体型碾压一切，长得越大，耗能越高，对环境资源的依赖越强，一遇环境波动第一个灭绝。RAG走的是哺乳动物的路线，体型不大，靠精准调用资源，耗能低灵活性强，能适配各种不同的场景。
不过话说回来，RAG也不是无懈可击。抽内容的时候关键词错了，结果比大窗口瞎编错得还离谱，而且企业搭定制RAG，来来去去改的实施成本，一点不比大窗口便宜。现在行业都是用脚投票，ToC用户喜欢大窗口，存聊天记录存电子书，体验确实好。ToB客户大部分还是悄悄用RAG，没人愿意付那个大窗口的冤枉钱。
产业链上的真冲击
产业链上的真冲击
绕了一大圈，回到普通人身上，长上下文的这场内卷，到底对你有什么实际影响？
做算法的朋友前阵子跟我吐槽，现在出去找工作，不管什么公司，开口就要你懂长上下文优化，哪怕这家公司做的是ToC的家常菜推荐，根本连10k的上下文都用不完，纯纯为了面试卷技能，卷不动。
反而是做内容、做咨询、做法律这些传统行业的普通人，真吃到了第一波红利。我认识一个做品牌咨询的老顾问，现在接新项目，先把客户过去十年所有的公开资料、内部方案全整理好喂进长上下文大模型，一晚上就能整理出完整的品牌发展脉络，放在过去，这个活要一个实习生蹲一周，还经常漏关键信息。
当然坑也实打实存在。上个月听一个律所朋友说，他们所一个年轻律师用长上下文整理判例，生成的辩护词里居然把十年前就废除的法条拿出来用，差点给当事人打输了官司，赔了不少钱。
对上游产业链来说，现在最开心的莫过于高端显存芯片厂商，更大的上下文需要更大的显存缓存，一块H100也就放得下不到2M的完整上下文，现在各家厂商都在抢高显存芯片，拿货价格涨了三成还排不上队。中小创业公司根本卷不动，你跟大厂拼堆窗口拼成本，拼到死你也拼不过，人家亏一个亿是零花钱，你亏一千万就倒闭。很多小公司喊着做长上下文，说白了就是蹭热点拿融资，根本没想清楚怎么赚钱。
这个方向我认为走偏了，所有人都在卷参数卷窗口，没人愿意坐下来算一笔清楚的成本账。
不出三年，大部分宣称做长上下文的创业公司，会倒在没人愿意买单的成本账上。
免责声明：市场有风险，选择需谨慎！此文仅供参考，不作买卖依据。如有侵权请联系删除。
文章名称：大模型长上下文处理：不是能力问题，是生意问题
文章链接：https://lfdjt.com/info_23_15606.html
