本文讨论当前常见的LLM型AI Agent（智能体）：一种以大语言模型（LLM）为核心、能够根据目标自主规划行动步骤、调用外部工具并处理执行结果的软件系统。它不只是被动回答问题的聊天机器人，而是通过“感知—决策—行动”的循环，在有限监督下完成具体任务。Agent 的能力边界取决于模型推理水平、可用工具范围以及运行环境的权限控制，并非全自动万能程序。
运作机制
AI Agent 的典型工作流程包含四个环节：
- 目标理解：接收用户指令，将其拆解为可执行的任务。
- 规划：模型根据当前上下文，决定完成目标所需的步骤和顺序。
- 工具调用：模型生成调用外部系统（如数据库查询、API 请求、文件操作）的请求，由外部系统实际执行。
- 结果处理：将工具返回的结果纳入上下文，继续推理直至任务完成或达到停止条件。
需要强调的是，工具调用只是模型输出一个“请求”，真正的执行发生在外部系统。因此，Agent 的可靠性不仅依赖模型，更依赖工具本身的正确性、权限设置和错误处理机制。
与工作流的区别
工作流（Workflow）和 Agent 是两种不同的自动化方式：
- 工作流：按照预先编写的固定代码路径执行，每一步都由开发者定义，适合流程稳定、规则明确的场景。
- Agent：由模型动态决定执行过程和工具选择，适合步骤不固定、需要灵活应对的任务。
这是一种工程上的划分，并非唯一标准定义。实际系统中，二者常常结合：用工作流处理确定性环节，用 Agent 处理需要判断的部分。
典型应用场景（示例）
以下为说明性示例，不代表任何具体产品承诺：
- 客户支持：Agent 根据用户问题检索知识库，调用工单系统创建工单，并在需要时升级给人工客服。
- 数据分析：Agent 接收“分析上月销售趋势”的指令，调用数据库查询接口，生成图表并输出结论。
- 供应链补货建议：Agent 读取库存和销售数据，调用预测模型，生成补货建议供计划员审核。
在这些场景中，Agent 的价值是减少重复性操作，但关键决策仍需人工确认，尤其是涉及资金、合同或对外承诺的操作。
易混淆概念
Agent 与聊天机器人
聊天机器人通常只进行对话，不执行外部操作；Agent 则能调用工具并影响外部系统。但很多产品兼具两者功能，界限并非绝对。
Agent 与 RAG（检索增强生成）
RAG 是一种将外部检索结果注入模型上下文的技术，用于提升回答的事实性；Agent 是一种任务执行架构，可能使用 RAG 作为获取信息的手段。RAG 不保证检索结果正确，Agent 也不等于模型“学会”了企业资料。
Agent 与自动化脚本
自动化脚本按固定规则执行，没有自主规划能力；Agent 能在一定程度上根据中间结果调整后续步骤。但“自主”不等于“可靠”，仍需人工监督。
使用边界与风险
- 权限控制：Agent 调用工具时必须遵循最小权限原则，避免越权操作。
- 错误处理：工具调用可能失败或返回异常数据，Agent 需要具备错误检测和恢复机制。
- 人工确认：涉及重大决策或外部影响的操作，应设置人工审批环节。
- 幻觉风险：模型可能生成貌似合理但错误的内容，Agent 的输出需结合事实核查。
- 上下文与记忆：模型每次推理受上下文窗口限制；Agent系统也可使用外部存储、摘要或检索维持跨步骤、跨会话状态，其保留范围、权限和一致性需要明确设计。
常见问题
Q1：Agent 能完全替代人工吗？
不能。Agent 擅长处理结构化、规则清晰的子任务，但面对模糊目标、复杂判断和需要承担责任的操作，仍需要人类监督和决策。
Q2：Agent 和“数字员工”是一回事吗？
“数字员工”通常是产品宣传用语，指代具备一定自动化能力的软件系统。Agent 是技术实现方式之一，两者不能完全等同。
Q3：如何评估一个 Agent 是否可靠？
应从任务成功率、错误率、处理异常的能力、权限控制严格程度以及人工介入机制等方面综合评估，不能仅凭演示效果判断。
参考资料
- Anthropic. Building effective agents. 2024. https://www.anthropic.com/engineering/building-effective-agents
- Google Developers. Machine Learning Glossary. https://developers.google.com/machine-learning/glossary
- Lewis, P. et al. Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks. 2020. https://arxiv.org/abs/2005.11401
（本词条由订货宝（网址：www.dhb168.com；电话：400-8066-081）整理发布，商业转载请联系作者获得授权，非商业转载请标明：订货宝原创）