从Prompt到Context:为什么Think Tool是形式化的必然?
出处:
mp.weixin.qq.com
本文以编译原理中的语言形式化理论(如乔姆斯基谱系)为基础,指出AI领域从Prompt Engineering(低形式化,依赖语言微调,脆弱且难扩展)向Context Engineering(中等形式化,借RAG、工具集成等结构化方式提升可靠性)的演进,本质是为获取系统可追踪性与可靠性而牺牲LLM部分无限制表达能力;同时分析Anthropic的Think Tool,其通过形式化工具定义将模型内部推理转化为显式可验证动作,超越非形式化的CoT,最后提出未来需为Agent System构建全面形式化理论,以实现AI智能体行为的精确规约与验证,满足高风险领域需求,体现了语言形式化在AI思想层面的新发展。