数据仓库:从后台基础设施到AI时代的业务核心

上个月跟三家不同行业的技术负责人喝茶,聊起今年最火的行业大模型,三个人开口第一句全绕回了同一个东西:数据仓库。

没人吹概念,全在吐槽。要么说自己家的数据仓库堆了好几年,全是垃圾数据,要用的时候调不出来;要么说刚花大价钱迁了云数仓,账单比原来还夸张。

这东西已经诞生几十年了,怎么到AI火了的今天,反倒成了卡脖子的关键?

别混淆概念:数据仓库的核心从来都不是存数据

很多新人刚接触大数据,很容易把数据仓库、数据湖、业务数据库搞混。

业务数据库是给日常业务跑的。你下单买东西,后台要马上给你扣库存,这种低延迟高并发的操作,是业务库干的活。你让业务库临时跑一个“过去一年不同区域用户的复购率分析”,跑得慢不说,搞不好直接把正常交易卡崩——见过电商大促之前临时拉报表把系统搞挂的,举个手?

数据仓库就是为解决这个问题生的。把各个业务系统的数据抽出来,清洗、转换、按照分析需求整理好,单独放一块,专门给做报表、做分析、做模型用。

业务数据库与数据仓库分流架构示意图
业务数据库与数据仓库分流架构示意图

说实话,现在很多厂商炒概念,一会说数据湖替代数据仓库,一会说湖仓一体就是把俩装一块。本质上,数据仓库的核心是“面向分析的结构化数据整理”,不是存储。你就算把所有原始数据都扔数据湖里,要做分析还是得拿出来整理,那一步还是逃不开数据仓库的逻辑。

技术边界一直很清晰:存原始杂乱数据找数据湖,拿出来给业务分析用的结构化数据,放在数据仓库。这俩从来不是替代关系,是配合关系。

十年进化:云原生把数仓的门给踹开了

放在十年前,数据仓库根本就是大企业的专属玩具。

早年国内股份制银行搭一套传统数仓,千万起步。还不算每年的维护费。贵到离谱。小公司想都不用想。

传统数仓还有个坑,存储和计算绑死,你要扩容计算就得扩容存储,钱哗哗的花,大部分时候资源都是闲的。

直到Snowflake把存算分离+云原生数仓的概念做出来,整个游戏规则直接变了。

计算、存储分开,按实际使用量付费,需要的时候临时扩容,不用了就缩回去,成本直接降到原来的几分之一。现在国内中小型企业,花几万块就能搭一套能用的数仓,放在十年前根本不敢想。

现在国内市场,头部云厂商都有自己的成熟产品,创业公司也切出来了不少细分赛道,整个行业的增长速度,最近三年每年都在30%以上。

云原生数据仓库存算分离架构图
云原生数据仓库存算分离架构图

不过话说回来,爆发式增长背后,大部分企业的数仓用得并不好。我接触过一家做连锁零售的,花了上百万迁了云数仓,一年多了,各个部门的GMV口径还是对不上。销售说这个月做了一个亿,财务说只有八千万,最后翻来翻去,发现是数据仓库导入的时候,不同系统的订单数据去重规则没写对。

AI时代的新命题:数仓的坑与未来方向

AI时代的新命题:数仓的坑与未来方向
AI时代的新命题:数仓的坑与未来方向

现在大模型火了,数据仓库的位置反而更重要了。

企业要做自己的行业大模型,最缺的不是算力,是高质量的标注数据。这些数据从哪来?不可能到处爬,肯定是从企业自己多年攒的业务数据里出,而整理好的高质量结构化数据,都在数据仓库里。

很多人说未来大模型会替代数据分析师,我看未必,数据仓库把基础数据整理好了,大模型才能在上面跑分析,本质是大模型给数据仓库做了前端交互,核心的数据整理逻辑还是得靠数仓。

当然,现在的数仓也有绕不开的坑。

第一个就是成本陷阱。很多企业刚迁云数仓的时候,觉得按用量付费很便宜,放开了让各个部门跑任务,月底账单出来直接傻了。我听过一个案例,一家中型互联网公司,某个新业务团队测试数仓任务,忘了关资源,一个月跑出来几十万的账单,远超预算。

第二个就是合规风险。数据仓库把全公司所有用户数据、业务数据都攒在一块,要是没有做好分级分类,碰到合规检查很容易出问题。尤其是现在个人信息保护的要求越来越严,越集中的数据,风险越大。

第三个就是治理跟不上。很多企业建数仓,只想着把数据搬进去,忘了做数据治理,到最后数仓变成了数据垃圾场,要用的时候啥都找不出来,钱全打了水漂。核心矛盾从来都不是技术,而是内部数据口径的统一,这一点到今天都没变。

未来三到五年,数仓会往哪走?

第一个方向肯定是实时化。原来大部分数仓都是T+1出报表,现在直播电商、即时零售这些新业务,需要秒级的业务分析,实时数仓的需求会越来越大。

第二个就是跟大模型深度绑定。以后企业训练行业大模型,数据仓库会变成天然的高质量数据供给池,甚至会直接内置大模型能力,让业务人员不用写SQL,用自然语言就能直接从数仓拉分析结果。这个已经有厂商在做了,未来两年会变成标配。

第三个就是分化。大的企业会做湖仓一体,整合全量数据;中小厂商会直接用云上的托管数仓,不会再自己搭了,门槛会越来越低。

最后说句实在话,很多企业现在赶潮流,动不动就上大数据平台,搞数仓,其实先想清楚,你要分析啥?你有没有统一的数据口径?别为了概念花冤枉钱。工具永远是给业务服务的,不是给PPT添彩的。

作者|大讲堂

排版|大讲堂

审核|柚子

免责声明:市场有风险,选择需谨慎!此文仅供参考,不作买卖依据。如有侵权请联系删除。
文章名称:数据仓库:从后台基础设施到AI时代的业务核心
文章链接:https://lfdjt.com/info_23_23782.html