为何AI智能体在企业中难以实现可靠部署

2小时前7 min read

曾有人预言2025年将迎来自主AI智能体时代，届时软件能在最少人力监督下可靠地执行复杂的多步骤任务。然而，这一叙事与企业部署的严峻现实发生了碰撞。来自Google Cloud和所谓‘氛围编码’运动合作伙伴Replit的领导者最近承认了这一点。他们指出，尽管大型语言模型（LLMs）的智能水平已相当深刻，但通往可靠、集成化智能体的实践道路仍充满基础性挑战。这不仅仅是技术上的小故障；这是一场与遗留基础设施、碎片化的数据生态系统，以及最关键的是，与不适合概率性系统的文化思维模式的系统性对抗。正如Replit首席执行官Amjad Masad直言不讳地指出的那样，当前许多企业智能体项目都是‘玩具示例’，一旦需要扩展就会失败，这揭示了原型兴奋感与生产级鲁棒性之间的巨大鸿沟。核心障碍主要不在于模型的智商，而在于可靠性和集成性——智能体在长时间运行中经常失败，错误会累积并级联放大，并且会在定义现代企业环境的混乱、非结构化数据蔓延中陷入困境。爬取这些数据并为其建立上下文是一项艰巨的任务，而‘未成文’的部落知识和微妙的人类判断更是雪上加霜，这些因素众所周知地难以编码。这一现实打破了那种幻想——只需拨动一个‘智能体开关’就能自动化工作流程并取代工人；正如Masad所言，必要的工具链目前根本还不存在。更为初生的是旨在接管用户数字工作空间的‘计算机使用’模型，它们仍然昂贵、缓慢，且容易产生错误百出、可能危险的行为——Replit曾痛苦地吸取了这一教训，当时其自家的AI编码工具意外删除了一个公司的整个代码库，这一失误迫使Replit战略性地撤退，将开发环境与生产环境隔离。应对这些可靠性危机需要资源密集型技术，例如测试闭环和可验证执行，Replit已将这些技术嵌入其智能体迭代中。然而，用户对延迟时间的挫败感依然存在，‘繁重的提示词’有时会触发长达20分钟的等待，这突显了对并行智能体循环的需求，以便人类操作员能保持在创造性的监督角色，而非被动等待。除了代码之外，Google Cloud的Mike Clark指出了一个更深层次的文化障碍：企业建立在确定性流程之上，即特定输入保证特定输出，而AI智能体以概率方式运行，提供可能但不确定的结果。这造成了运营上的不匹配，需要对治理、安全和工作流设计进行根本性的重新思考。Clark观察到，目前成功的部署范围狭窄、界定明确且受到严格监督，通常是从下而上、低代码的实验性尝试中涌现出来，而非自上而下的强制命令。安全范式同样被颠覆；当智能体必须动态访问多样化资源以做出决策时，传统的‘城堡与护城河’边界模型就失效了，这迫使人们必须在Clark所称的‘无牧场、无防御的世界’中重新定义‘最小权限’。最终，行业面临着一次集体的治理反思，需要就智能体系统的新威胁模型达成一致。Clark指出的差异是鲜明的：当前的许多治理流程是打字机和三联单时代的数字遗物，与AI智能体动态、自主的特性完全脱节。因此，2025年并非智能体取得胜利之年，而是其艰苦的原型开发阶段之年，这是一个必要的扩展、试错和学习时期，将决定这项强大的技术能否从一个有前途的原型成熟为值得信赖的企业合作伙伴。.

#AI agents

#deployment challenges

#enterprise adoption

#reliability

#Google Cloud

#Replit

#featured