淘宝闪购实时分析黑科技:StarRocks + Paimon撑起秋天第一波奶茶自由
Source :
mp.weixin.qq.com
当“秋天的第一杯奶茶”冲上热搜时,很多人看到的是用户的热情与订单的暴涨,而在背后,技术团队同样在全力以赴。自 4 月 30 日淘宝闪购上线以来,短短 100 天,业务团队创造了一个奇迹,技术团队则在高并发与海量数据的冲击下迎来前所未有的挑战。 闪购项目期间,亿级营销投入叠加多端流量,实时决策与调控对数据提出了分钟级的要求。为应对挑战,饿了么数据团队依托一年多的湖仓探索与沉淀,选择 StarRocks + Paimon 搭建实时湖仓架构,并通过物化视图优化、RoaringBitmap 去重和大查询治理,突破了传统离线架构的瓶颈,为闪购提供了坚实的数据支撑。 本文将根据闪购项目的实战过程,分享过程中沉淀下的经验与思考。