绞杀AI搜索投毒:基于多智能体编排 重塑复杂Agent的反GEO架构
出处:
mp.weixin.qq.com
过去一年,我们在从 0 到 1 构建高并发的“旅游规划 Agent”时,踩过不少坑。其中最让人头疼的,不是模型上下文不够长,也不是 API 响应慢,而是一种潜伏在水下的黑产手段——GEO(Generative Engine Optimization,生成式引擎优化)攻击。只需几百条伪造的垃圾语料,就能让大模型产生认知偏差,把虚构的产品或刷榜的黑店包装成“权威推荐”喂给用户。本文将复盘我们在实际业务中遭遇的“AI 投毒”问题,并探讨我们是如何放弃“单体大模型 ReAct 架构”,转而通过多智能体协作、状态驱动的强编排(Orchestrator),以及异步交叉验证机制,在工程架构层面构筑防御体系的。