Databricks 推出自适应 AI 检索模型，以降低搜索成本与延迟

Databricks 于周三推出了 Adaptive Instructed-Retriever——一款全新的检索模型。它的设计思路是：面对复杂查询时执行更多步骤，而在处理简单查询时提前停止，从而帮助客户在答案质量、延迟与成本之间取得平衡。

这款新模型建立在 Databricks 早前的 Instructed-Retriever-1 的研究基础之上，但在处理复杂查询时采取了不同的方法。Instructed-Retriever-1 采用的是并行的单步搜索，并结合企业数据模式（schema）与自定义指令来提升检索效果；而 Adaptive Instructed-Retriever 则可以在需要进一步收集证据时，将并行检索与串行的多步搜索结合起来。

这一区别之所以重要，是因为如果对每一个查询都套用多步搜索，会增加检索的延迟和所需的计算资源；而如果把所有查询都限制在单步搜索，又会让复杂的多跳问题得不到好的结果。Databricks 表示，Adaptive Instructed-Retriever 只在这些额外步骤有可能提升检索质量时才执行它们，从而能够在处理更简单的请求时更早返回结果。

为实现这一能力，Databricks 使用合成的企业检索环境和一套智能体（agentic）数据合成流程来训练该模型，在复用 Instructed-Retriever-1 训练数据的同时，补充了专门设计用于从多步搜索中获益的合成多跳问题。随后，公司采用在线强化学习（online reinforcement learning）来训练模型，让它权衡"检索质量的潜在提升"与"额外搜索步骤的成本"——对表现优异的搜索路径给予奖励，对没有带来相应收益的步骤施加惩罚。

公司称，这种训练方法可以产出该模型的多个版本（即不同的检查点），各自对应不同的"质量—延迟"权衡：以较低惩罚训练的模型愿意花更多时间来改善结果；而以较高惩罚训练的模型则会限制搜索步骤、降低延迟。对于在生产环境中部署该模型的企业客户而言，这些不同版本可以让检索表现更精准地匹配不同应用的需求，而不必对所有工作负载套用同一套搜索策略。

自适应检索有助于控制 AI 搜索成本

分析师指出，随着企业将 AI 智能体和其他应用推向生产环境，这种灵活性会变得越来越有价值——因为在生产环境中，提升答案质量往往需要额外的推理、计算和检索资源，这会在规模化运行时推高成本。

HFS Research 执行研究主管 Ashish Chaturvedi 表示："重复搜索能改善复杂问题的答案，但会增加延迟和计算成本；单次搜索更快更便宜，却难以应对更难的查询。因此，判断'何时值得额外搜索'的能力，可以帮助企业避免在无法提升答案质量的情况下白白消耗资源。"

对 CIO 而言，这种限制不必要搜索的能力，最终能为计算消耗和成本带来更高的可预测性。Chaturvedi 指出："规模化智能体 AI 的难题在于消耗难以预测——智能体反复搜索会产生累积的、不可预测的成本与延迟，而财务部门极为反感这种波动的账单。知道你的智能体会在一个设定的上限内进行搜索，并且你可以为不同工作负载分别设定这个上限，这正是让智能体搜索能够安全地规模化运行、而非变成一台失控计费器的关键。"

Chaturvedi 补充道，如果这款专用模型能以更低的延迟达到那些更大型的通用模型所宣称的检索质量，那么其经济性会更具吸引力。据 Databricks 称，在其内部评估中，Adaptive Instructed-Retriever 的检索质量追平或超越了 Claude Sonnet 5、GPT-5.6 Luna 和 DeepSeek-V4-Flash，同时在 5.8 秒内完成请求，比这些模型快了一倍以上。

Chaturvedi 表示，这一差异在经济上可能意义重大，因为检索是数据智能体的一项高频操作，这或许能让企业不必把大型模型的成本和延迟施加到每一次检索请求上。

开发者可以省去一部分检索编排工作

对开发者而言同样有好处，尤其是在减少编排层面的工作量方面。

Chaturvedi 说，传统上，处理复杂多跳问题的开发者往往需要自己设计多轮搜索的控制流——包括决定何时优化查询、何时再次搜索、何时停止；而 Adaptive Instructed-Retriever 学到的搜索策略把这些决策转移到了模型内部， potentially 减少了开发者需要构建和维护的定制检索编排工作量。

HyperFRAME Research 的 AI 技术栈实践负责人 Stephanie Walter 对此表示认同：这反过来能让那些缺乏资源、专业知识和时间来从零构建搜索智能体的团队，更容易用上 sophisticated（先进）的检索能力。

更大的灵活性也带来新的取舍

不过，分析师也指出，开发者需要考虑一些权衡取舍。

Walter 表示，尽管模型的各个检查点有助于防止单个查询消耗不可预测的计算量，但团队仍需测试和监控不同的设置，以确定哪一个能在每个应用或使用场景中实现成本、延迟与检索质量之间的最佳平衡。Chaturvedi 也补充说，这又为开发者增加了一层需要管理的性能与成本优化工作。

Moor Strategy and Insights 首席分析师 Mike Leone 表示，更重要的是，要选对模型检查点，意味着需要梳理真实的业务问题，并记录答案来自你的数据库或其他知识库的哪些位置。"很少有企业开发团队建立起这样一份精心整理的清单。实际上，这意味着大多数团队很可能只会一次性选一个设置，然后就不再改动。"Leone 补充道。

然而，即便选对了检查点，Adaptive Instructed-Retriever 也无法解决所有影响检索质量的挑战。Walter 说，团队仍然需要准备和组织数据、执行权限管控、评估检索质量并核验最终答案。Leone 同样补充说，再聪明的搜索策略也无法弥补底层数据结构混乱、或对关键术语含义缺乏共识的问题——这意味着它仍然可能检索到错误的答案，只不过效率更高而已。

CIO 还应注意一些前提条件。Chaturvedi 指出，Adaptive Instructed-Retriever 在性能和质量方面的宣称，是基于 Databricks 自身挑选的竞争对手、用自己的基准测试得出的，因此这些宣称需要用企业的真实工作负载来验证，而不能照单全收。

Chaturvedi 还说，即便这些结果站得住脚，CIO 仍需权衡：检索性能、延迟和成本上的潜在收益，是否值得在自己的 AI 技术栈中再增加一个专用模型。反之，用一个更大型的通用模型同时承担检索和推理任务，可以通过减少企业需要部署和管理的模型数量，提供更简单的替代方案。因此，对 CIO 而言，Adaptive Instructed-Retriever 的经济性取决于：其宣称的性能能否在真实企业工作负载上兑现，以及潜在的成本节省能否抵消引入专用模型所带来的额外复杂度。