谷歌新框架助力AI智能体优化计算与工具预算

2小时前7 min read

为使AI智能体在现实世界部署中更具经济可行性，谷歌与加州大学圣塔芭芭拉分校的研究人员迈出了重要一步，推出了一种旨在优化大型语言模型智能体计算与工具使用预算的新框架。这项在一篇新论文中详述的工作，直接应对了该领域日益严峻的运营难题：随着智能体越来越依赖网络浏览器和API等外部工具来执行复杂任务，其成本（包括延迟和实际计算支出）可能不可预测地激增。核心创新在于超越了传统的测试时扩展范式，后者仅通过思维链等技术让模型“思考”更长时间。相反，该团队引入了两种互补的技术：一个轻量级的“预算追踪器”模块和一个更全面的系统，称为“预算感知测试时扩展”（BATS）。这些方法赋予智能体对其剩余资源配额的明确、持续感知能力，使其能够动态调整策略，就像项目经理重新分配日益减少的预算以最大化成果一样。这一转变至关重要，因为正如研究人员所指出的，在没有指导的情况下给予智能体更多资源，常常会导致浪费性的死胡同；在一项深度研究任务中，一个没有预算意识的智能体可能会在意识到路径徒劳无功之前，为追踪一个误导性线索而耗尽十几次昂贵的API调用。预算追踪器在提示层面优雅地运行，为智能体提供其消耗和剩余预算的简单、更新信号，从而制约其后续的推理和工具调用。在使用Gemini 2. 5 Pro和Claude Sonnet等模型在BrowseComp和HLE-Search等信息寻求基准测试中进行的实验中，这个简单的插件带来了显著的效率提升，以大约减少40%的搜索调用次数实现了相当的准确率，并将总体成本降低了30%以上。更重要的是，随着预算增加，其性能持续提升，而标准的ReAct风格智能体则趋于平稳，达到收益递减点。 BATS框架在此基础上构建，整合了专门用于编排智能体行动的规划和验证模块。规划模块调整逐步投入的工作量以匹配当前预算，而验证模块则执行关键的成本效益分析，决定是“深入挖掘”一个有前景的探究方向，还是“转向”替代路径。这个迭代过程最终由LLM作为评判者，在预算耗尽时从所有已验证的尝试中选择最佳答案。结果令人信服：在BrowseComp基准测试中，BATS使用Gemini 2.5 Pro实现了24. 6%的准确率，几乎是标准ReAct（12. 6%）的两倍，同时保持了更优的成本效益曲线。例如，BATS以大约23美分的成本达到了更高的准确率，而并行扩展基线需要超过50美分才能获得类似结果。这不仅仅是一项渐进式的工程改进；它代表了智能体设计理念的成熟。随着AI系统从演示走向生产，推理能力与经济约束之间不可分割的联系变得至关重要。研究人员认为，未来的模型“必须对价值进行推理”，这一说法呼应了整个行业从纯粹能力研究向可持续部署的转向。这对企业应用影响深远，将解锁以往因成本不可预测而无法进行的长期任务，例如复杂的代码库维护、尽职调查和多步骤合规审计。虽然论文主要关注搜索和浏览工具，但该框架广泛适用于任何工具增强的工作流程，从代码执行到数据库查询。它也微妙地挑战了当前主流观点，即更大的模型和更多的计算是唯一的前进道路，转而强调了更智能、更具预算意识的编排所带来的巨大杠杆效应。随着AI领域竞争日益激烈且对成本更加敏感，像BATS这样的技术很可能成为生产智能体架构中的标准配置，确保人工智能不仅能够推理，而且能够以财政负责的方式进行。.

#AI agents

#tool-use optimization

#budget-aware scaling

#Google research

#featured