一个值得关注的信号：改进开始于上线之后
OpenAI 在 7 月发布企业级 Agent 产品 Presence 时，特别强调了生产会话、转人工记录和质量信号在上线后的作用：这些信息可以揭示 Agent 在哪里表现良好，哪里因政策、产品或用户行为变化而需要调整。其官方披露的自有英文电话支持场景中，系统可以在无人协助下解决 75% 的来电问题；通过后续改进循环，10 天内又将人工转接降低了 15 个百分点。
这些数字来自厂商自有场景，不能直接外推为其他企业的预期收益。更重要的信号在于：上线不再是项目终点，真实业务中的例外才是下一轮改进的输入。
这也改变了企业应当怎样理解“异常”。过去的自动化项目倾向于把异常视为噪声，希望尽快减少；而生成式 AI 面对的是开放表达、动态政策和大量长尾情境，异常往往比正常样本更能说明业务边界。
例如，同样是转人工，背后的问题可能完全不同：
如果这些情况都被归入一个“转人工率”，企业得到的只是一个运营数字，而不是改进线索。
- 客户提供的信息不足，Agent 无法继续；
- 公司规则之间存在冲突，没有唯一答案；
- Agent 能给出答案，但没有执行该动作的权限；
- 业务可以完成，客户却因情绪或信任问题要求人工介入；
- 原有流程根本没有覆盖这类新需求。
不要急着消灭例外，先判断它在告诉你什么
近期一项发表于 AAAI Symposium Series 的研究提出，可以把反复升级、撤回、例外申请和返工循环视为组织流程“不透明”的早期信号。其价值不在于给出某种通用模型，而在于提醒企业：重复发生的冲突，可能说明决策权、知识分布和风险责任已经与实际工作脱节。
对于正在推进企业 AI 的管理者，例外至少可以分为四类。
第一类：知识缺口
Agent 找不到可靠依据，或者找到的制度、产品资料相互矛盾。这类例外应回到知识负责人，而不是只让一线人员临时补一句答案。
需要修复的是来源、版本、有效期和冲突优先级。否则，同一问题还会以不同表述反复出现。
第二类：规则缺口
现有制度只描述了标准情况，没有说明边界条件。例如退款规则写明了金额和时限，却没有覆盖组合订单、跨渠道付款或特殊客户承诺。
这类例外不是模型能力不足，而是业务规则尚未完成。负责政策的部门需要决定：补充规则、保留人工裁量，还是明确拒绝处理。
第三类：权限缺口
Agent 已经能够判断下一步，却没有被允许执行；或者为了追求自动化率，被授予了过宽权限。
AWS 的 Agentic AI 实践指南建议按照风险分级设置人工审批，并记录审批人、时间、操作内容、决定和升级事件。它同时提醒，所有动作都交给人工会造成形式化审批，完全不审又会形成无边界自治。
因此，权限类例外的目标不是一律放权，而是识别哪些稳定、低风险的动作可以在明确参数范围内获得授权，哪些动作必须继续保留人工判断。
第四类：体验缺口
系统可能给出了技术上正确的答案，客户仍然不愿继续。这往往涉及情绪、信任、沟通节奏或事件严重性，而不是答案准确率。
一项在淘宝客服场景开展的随机现场实验发现，人工介入对技术性升级更能保持服务质量，对情绪性升级的效果则较弱；较早介入有助于维持人工后续投入。该研究仍是预印本，且来自特定客服环境，不宜直接推广到所有行业，但它揭示了一个重要区别：何时转、为什么转，与是否转人工同样重要。
建立“例外学习闭环”，而不只是工单队列
企业可以从一个高频、高价值流程开始，为每次例外保留一张简洁的结构化记录：
然后按固定周期聚类复盘，而不是逐单修补。重复出现的例外进入规则或知识治理；高风险但低频的例外进入模拟测试；可以稳定判断的低风险例外进入自动化候选；涉及新需求的例外进入产品和服务评审。
每次修改后，都应使用历史例外进行回归测试，确认新方案解决了原问题，同时没有扩大权限、降低合规性或伤害其他客户群体。
- 触发点：在流程哪一步发生，触发了什么限制；
- 例外类型：知识、规则、权限、体验，或尚未识别的新类型；
- 人工动作：人工补充了什么信息、判断或授权；
- 最终结果：完成、拒绝、延期、客户放弃或形成投诉；
- 可复用变化：应修改知识、规则、权限、交互方式，还是加入新的评测案例。
指标也需要随之改变
只考核自动完成率，会诱导团队隐藏转人工、延迟升级，甚至让客户在错误路径中停留更久。更合理的指标组合包括：
这样，转人工率仍然重要，但不再是唯一目标。企业真正要减少的是“没有被理解、没有被修复、还会再次发生的例外”。
- 同类例外的重复发生率；
- 从例外出现到规则或知识修复的时间；
- 转人工时上下文的完整程度；
- 人工接手后一次解决率与客户结果；
- 历史例外进入评测集和回归测试的比例；
- 因业务变化新增的例外，与因系统退化新增的例外分别占比。
企业 AI 的长期优势，来自比同行更快理解例外
模型能力会持续普及，标准流程也会越来越容易自动化。真正难以复制的，是一家企业对自身客户、规则和现场判断的理解，以及把这种理解快速沉淀进系统的能力。
因此，企业 AI 上线后的关键问题，不只是“还有多少工作需要人做”，而是：每一次必须由人处理的情况，有没有让组织下一次做得更好？
当例外能够进入知识修订、政策完善、权限调整、产品改进和持续评测，AI 才不只是替企业处理工作，也开始帮助企业看清自己的业务。
