大语言模型 从招投标现场到产线良率的真实账

2026年3月,我在苏州相城的一个区级公共资源交易中心坐了三个小时,全程围观一个标的1.2亿的制造业数字化项目开标。

开标现场的反常中标结果

那天的投标供应商一共11家,之前行业里都默认中标的会是那家在国内通用大模型榜单排前三的厂商——毕竟他们去年刚拿了十几亿的融资,发布会开得比谁都响,PPT上印着的千亿参数、通用智能,看着就像能把工厂里所有活都干完。结果唱标结果出来的时候,全场都愣了。中标的是个在本地做了十年MES系统的小公司,团队加起来不到50人,报价是头部厂商的三分之一。
苏州工业园区制造业数字化项目招投标开标现场
苏州工业园区制造业数字化项目招投标开标现场
我凑过去翻了翻他们的技术参数表,最核心的一行字被加粗标红:单条产线工单的大模型推理成本压到8分钱。 这是什么概念?之前头部厂商给的报价是单条推理2毛7,算下来整个项目三年的推理成本就要4300万,比项目总预算的三分之一还多。我们之前算过账,苏州工业园2025年全年的工业用电总费用,摊到每平米厂房的月均成本是12块钱——2毛7一次的推理成本,相当于每处理一条工单,就要烧掉半平米厂房一个月的电费。 当时头部厂商的代表坐在我斜对面,脸都绿了。之前他们准备的答辩稿全是‘模型参数规模’‘通用能力覆盖场景’‘多模态交互精度’,结果评委的第一个问题根本不沾这些,直接问:‘你们的推理卡单台一天能扛多少条工单?坏了之后换备件要多久?能不能适配国产算力卡?’ 我坐在后排突然就反应过来。 之前所有从发布会PPT里读出来的大模型叙事,到了招投标现场全得折现成硬成本,半毛钱的虚的都不算。那个中标的小公司根本没做什么通用大模型,就是拿开源的70亿参数模型,拆成了三个独立的小分支,分别处理工单派工、设备故障报修、供应商对账这三个固定场景。模型在公开榜单上的精度比头部通用模型低3个百分点,但推理速度快了4倍,成本直接砍到零头。 什么叫落地?就是别跟客户扯什么AGI,客户就想知道你帮他省了多少钱,多赚了多少良率,少压了多少库存。

算力库存的博弈困局

跑了快一年的一线现场我才发现,现在大模型行业真正的卡脖子环节,根本不是模型参数够不够大,预训练数据够不够多,是压在机房里卖不出去的算力库存。 2025年下半年深圳有个排进行业前五的通用大模型厂商,一口气囤了1200张A800算力卡,光硬件成本就砸了快8个亿。结果到2026年开年,下游客户的付费意愿直接掉了40%。客户算完账发现,用这家头部厂商的API接口处理一年的客服工单,成本比养三个熟手客服还贵30%。这就跟农民种10亩地,买的进口种子比收的全部粮食还贵30%一样,谁会接着买?直接换性价比高的替代品种就完事了。
数据中心机房GPU服务器集群运行场景
数据中心机房GPU服务器集群运行场景
现在这家厂商的日子有多难?8个亿的算力卡在恒温机房里,每天光电费、运维费就要烧12万,算下来每个月要烧掉两套苏州刚需房的首付。但订单接不到——之前谈的几个制造业客户,最后全选了那种拿开源模型微调的小团队,因为成本差了快4倍。 现在市场上的博弈格局特别有意思。一拨是之前砸了几十亿囤算力的头部厂商,手里压着天量的算力库存,现金流快绷到极限了,天天在发布会上喊大模型要颠覆所有行业,本质上是想赶紧把手里的算力卖出去——不然砸在手里的卡,过两年技术迭代了就是一堆废铁。另一拨是像苏州那个中标的小公司,根本不囤卡,就租别人闲置的算力,拿开源模型做垂直场景微调,没有库存压力,报价能压到极低,客户当然用脚投票。 我之前跟国内某做电力系统大模型的技术负责人吃饭,他喝多了说的实话我到现在都记得:‘之前我们追参数追得跟傻子一样,砸了快10个亿做千亿参数模型,结果客户根本不关心你模型能不能写散文、能不能写诗,就需要它能准确识别巡检照片里的裂纹,能把账单算对,24小时不休息,而且成本要比请人低。’他们2025年年中直接转了方向,把原来的大模型拆成20多个10亿级的小模型,分别对应具体的电力场景,结果下半年的订单直接翻了6倍,毛利率从之前的负30%涨到了42%。 所有脱离成本核算的技术叙事,在招投标环节都会被直接打回原形。现在好几个省的数字化项目招投标文件里,已经把‘算力国产化适配率’‘单任务推理成本’‘故障恢复时长’写进了硬性评分项,之前那种靠吹参数、吹通用能力凑出来的标书,现在连初评都过不了。

成本拐点上的普通人

之前大家都觉得大模型出来,最先被替代的是程序员、文案、设计师,跑了这么多现场我才发现,最先被影响的根本不是这些岗位,是产业链上三类早就被卷得抬不起头的普通人。 第一类是之前靠倒算力卡赚差价的中间商。2023年的时候,一张A800的卡倒手能赚两万多,现在2026年,因为头部厂商的算力库存压得太狠,卡的价格已经跌了60%,很多之前囤了几百张卡的贸易商,现在天天在二手平台甩货,价格比当初的进价还低,现金流直接断了。 第二类是之前给头部大模型公司做数据标注的外包团队。之前标注一条高质量数据能赚几毛钱,现在因为大家都转去做垂直小模型,需要的标注数据量直接砍了80%,外包团队的报价已经压到了每条2分钱,很多小团队撑不住直接解散了,之前靠这个赚点辛苦钱的宝妈、学生,现在连活都接不到。 第三类是工厂里的中层调度员。之前他们每天要花两个小时派工单、协调设备、跟进良率,现在用微调好的小模型,10分钟就能把所有活安排明白。工厂根本不需要裁人,但是原来需要三个中层的岗位,现在只要一个人盯着系统就行,岗位需求直接缩了三分之二,想涨工资根本没可能。 反过来现在最吃香的是什么人?是那些能把模型在具体场景的推理成本压下来的工程师。我认识一个在无锡做制造场景微调的小伙子,之前是做传统软件开发的,根本没读过什么前沿的大模型论文,就是靠不断剪枝模型、优化推理流程,把单条工单的推理成本从1毛压到了5分,现在企业给他开的月薪是3万8,比那些在实验室刷榜单的算法工程师赚得还多。 很多人之前学大模型,上来就啃厚厚的论文,追最新的参数规模,结果毕业找工作的时候,企业问的第一个问题是‘你能不能把单条推理成本从1毛压到5分’,直接就懵了。 等这些压在机房里的算力库存被慢慢消化,当所有大模型的报价都折现成每一分钱的推理成本时,那些曾经喊着要通用智能接管世界的厂商,还有多少能站在牌桌上?

作者|大讲堂

排版|大讲堂

审核|乐乐

免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。如有侵权请联系删除。
文章名称:大语言模型 从招投标现场到产线良率的真实账
文章链接:https://lfdjt.com/info_23_28378.html