客服知识库是一个集中管理和存储与客服相关的信息和资源的系统，在自研知识库上线之前，得物采用的承接工具为第三方知识库系统。伴随着业务的发展，知识的维护体量、下游系统的使用面临的问题愈发明显，而当前的第三方采购系统，已经较难满足内部系统间高效协作的诉求，基于以上业务诉求，我们自研了一套客服知识库。
本文系统阐述了在当前 Agentic AI 技术快速发展的背景下，如何构建一个可靠、高效且可落地的 AI Agent 应用。随着 LLM 和工具调用的标准化，开发的核心竞争力已转向 提示词工程（Prompt Engineering）、工作流设计（Workflow）和知识库构建（RAG） 三大领域。
本文介绍了在 iOS 平台上使用 MNN 框架部署大语言模型（LLM）时，针对聊天应用中文字流式输出卡顿问题的优化实践。通过分析模型输出与 UI 更新不匹配、频繁刷新导致性能瓶颈以及缺乏视觉动画等问题，作者提出了一套包含智能流缓冲、UI 更新节流与批处理、以及打字机动画渲染的三层协同优化方案。最终实现了从技术底层到用户体验的全面提升，让本地 LLM 应用的文字输出更加丝滑流畅，接近主流在线服务的交互体验。
智能体的系统提示词加固是指通过优化，补充，约束系统提示词的内容和结构，增强其对模型“约束力”和“指导性”，让智能体在收到用户的请求时通过安全研判后来决定返回的内容，确保模型在复杂场景下行为可控、安全合规、效果稳定。不同约束的效果可能因“模型类型”、“应用场景”而异，本方案旨在为系统提示词加固提供指导，确保约束在多种情境下的适用性。 系统提示词的加固效果受到多种因素的影响，例如“模型类型”、“系统提示词的长度”，“加固内容在系统提示词中的位置”以及“添加的加固类型数量”等。在具体场景中，如何对系统提示词作安全加固，既要考虑模型特性和场景差异，还要兼顾加固内容的一致性和普适性。
笔者前公司在判断某个插件/三方包是否调用、调用次数、版本等情况时依然是在所有项目中“全局搜索”。这不仅会导致效率低下，还会带来麻烦。与此相似的情况是：你是否担心cookie这样容易被滥用的存储空间的“污染”？你是否在意依赖调用方代码中对有问题的API的调用？我们可以通过在项目中加入loader/plugin等方式去统计这些情况。并在公司内部形成一个“可视化平台”！
