阿里巴巴&蚂蚁 LoongSuite GenAI 可观测语义规范：从统一数据语言到规模化落地

Source : mp.weixin.qq.com

随着 AI，尤其是 Generative AI（后文简称 GenAI）的快速发展，AI Agent 系统中涌现出大量新的核心概念，例如 Model、Prompt、Token、Tool Calling、Agent、Memory、Session 等。这些概念已成为算法工程师、运维人员和可观测平台用户最关心的观测对象。它们需要像传统系统中的 HTTP 请求、数据库调用一样，被标准化地采集、展示和消费，以便系统维护者清晰了解调用过程、高效排查问题。基于此，OpenTelemetry（后文简称 OTel）早在 2024 年初就开始推动 Gen AI 语义规范建设，希望为这些新对象建立统一的数据采集规范——Semantic Conventions（后文简称 SemConv），以解决相关领域可观测数据采集标准缺失、口径不统一等问题。