用户问的是一个复杂问题，搜索系统却可能只返回“语义相似”的段落。为缩小这种差距，研究者开始让语言模型在检索过程中反复推理、搜索和读取证据。十月五日发布的一篇代理检索预印本对这一方案进行了评估：在使用相同嵌入模型时，代理式流程的前十项排序质量指标nDCG@10提高了八点七个点。
效果伴随着明显代价。作者报告，代理检索的平均耗时为一百零七点四秒，而标准检索为零点六七秒；每次查询的平均输入量约为七十六万词元。这是论文所评估配置下的结果，不能直接推算所有检索产品都会有同样延迟，但足以说明：更深入的检索可能把原本很轻的搜索步骤变成高成本的推理任务。
检索分数与最终答案是两件事
nDCG关注相关结果的排序，分数提高不等于最终回答已经正确。系统还需要确认找到的证据是否足够、是否最新，以及不同资料是否相互冲突。模型如果把较好的检索结果错误归纳，用户看到的答案仍可能失败。因此，企业知识库的验收既要覆盖搜索，也应覆盖引用与回答。
对复杂研究查询而言，等待较长时间换取更完整证据可能值得；对客服或即时页面搜索，等待近两分钟往往不符合使用预期。我们的工程判断是，应按任务设置等待预算，并保留快速检索路径。是否进入多轮搜索，可以依据问题复杂度和证据缺口判断，再用真实样本检验这种路由是否有效。
评测预算也应看覆盖面
另一篇十月初的代理RAG评测预印本讨论了预算怎样分配给不同问题、搜索路径与重复回答。其结果提醒团队，在有限资源下，多测一些不同问题，有时比在同一道题上不断重复更有价值。不过，结论依赖所用数据集和模型配置，仍需要在具体应用中验证。
代理检索值得继续研究，是因为它尝试让搜索理解任务，而不仅匹配词义。要进入生产系统，还需同时给出质量、延迟、调用费用和失败率。对开发者来说，一条更好的排序曲线只是开始；用户愿意等多久、每次完整查询花多少钱，才会决定这种能力怎样被采用。