继 Model、Harness 后，DeepSeek 再次开源了推理框架 DeepInfer，帮助企业彻底玩转智能体的进度条上新增了一块重要拼图，同时也将推理框架一词推向公众。虽然 Model、Harness 的概念已深入人心，但推理框架这个算法工程师才会使用的概念似乎还略显陌生。不过，它和我们使用模型的费用和体验息息相关，例如为什么的输出价格是输入的4倍，缓存命中的价格是未命中的1/50(以 DeepSeek 当前的定价为例)等等，相信本文对这些疑问会提供一些通俗易懂的解答。
本文探讨了天猫技术构建的 AI 端到端交付架构——“数字员工”，旨在解决 AI 时代研发协作中信息传递失真、等待检索耗时及隐性知识流失等痛点。区别于传统AI编码工具，数字员工以钉钉群为入口，与产品、开发、测试等角色共享同一份需求上下文，贯穿从 PRD 到发布复盘的全流程。文章提出通过“协作”与“资产”两大核心解法，将散落的业务认知沉淀为可复用资产，推动组织协作从职能分工向任务驱动演进，最终实现异步化的大规模协作，让 AI 真正成为全程在场的同事而非单纯的工具。
当前，以大语言模型、智能体为代表的人工智能技术加速迭代，词元（Token）作为智能服务的计量与结算单位，正在重塑价值创造、产业组织与社会运转的底层逻辑，催生全新的词元经济形态。2026年10月21日，由腾讯研究院和金融科技50人论坛联合学术支持的“词元经济理论、实践与政策研究”成果——《一本书读懂词元经济》在2026金融街论坛年会金融街之声——“金融街发布”相关活动上正式发布，为理解词元经济底层逻辑，前瞻布局AI商业新增量，提供了重要的参考。
本文系统性地总结了我们以华为昇腾 910C 为国产算力底座，在大模型在线推理场景下完成国产化适配与性能优化工作。项目从建立 Qwen3.5-35B-A3B 在 910C 上的性能基线出发，通过 MindStudio 进行性能剖析定位瓶颈，按照「镜像与版本升级 → 参数与环境变量调优 → vllm-ascend 源码修改 → 算子层融合优化 → MTP 投机解码」五个层次逐层推进，累计落地 20 余项有效优化。
埋点是数据驱动的地基，成熟平台大多自带可视化测试后台，但仍有大量项目用的是没有配套后台的域名埋点，测试只能靠"抓包+肉眼比对"。自建后台要侵入业务代码，代价太高。本文介绍 Flyheart Monitor，一套零侵入的域名埋点实时校验工具：它不在 H5 页面端主动上报，而是在请求的必经之路上拦截一份数据去校验，且不绑定任何特定抓包代理（只要支持接口转发即可接入）。文章聚焦几个解决实际问题的巧思：把抓包请求变成实时数据流、用规则代替人脑校验、把验证结果沉淀为可归档的图片。
本文总结了淘特 App 从 3 月到 8 月在端侧模型建设上的全链路实践。为解决用户实时意图识别及云端大模型延迟与成本问题，团队选用 QWen3-0.6B 作为基础模型，通过两代数据集迭代将真机准确率提升至 80% 以上。在工程实现上，采用 LoRA 微调、基于 ShortGPT 的深度剪枝以及 AWQ 量化技术，大幅优化了模型体积与推理性能；同时结合 Prompt 精简、Prefix Cache 和增量推理等手段显著降低了端到端延迟。最终该端模型成功落地于信息流重排序与流失前权益挽留场景，实现了 GMV 的正向增长，并针对 CDN 下载等隐形成本提出了按需下载等优化策略。
