企业 AI 的演进路径业内已有共识：从问答工具，到知识助手，到低风险自动化，再到受限执行智能体，最后连到物理设备端到端全自动。多数企业卡在第三、四阶段之间——智能体开始跨系统执行任务，但控制边界怎么划，决定了它是效率工具还是事故源头。
一个冷链仓库的推演
生鲜冷库制冷机组故障，库温爬升。传统流程是灾难剧本：报警、停摆、等人，值班员现场查故障码、电话叫修、逐级申请降价调货，信息每传一层慢一拍，整批货等不起。
智能体模式是另一个剧本：报警触发瞬间识别故障码，毫秒级锁定受影响批次，向电商平台下发九折上架指令，同时给运输系统派高优先级调度单，再把损耗预估写进财务系统实时重算当季预测。感知、决策、执行一气呵成，全程无人碰鼠标。
推演很漂亮，但恰恰是这个案例暴露了关键问题：执行效率越高，出错时的破坏半径越大。智能体越往业务底层扎，成败越取决于控制域怎么划。
导航员原则与幂等性落地
架构上有一条底线：AI 出方案，扣扳机的必须是规则或人。智能体可以统筹仓储、运输、财务的数据算出最优应急方案，但物理系统与核心资产库的写入权限不该在它手里。
概率模型对接工业控制还有个技术坑。PLC 靠电路逻辑跑，死板但百分百确定；大语言模型是概率生成，复杂提示或高并发下可能输出逻辑偏差，甚至短时间内重复下发冲突指令。数字世界的幻觉传到物理世界就是事故——挡板是幂等性设计：同一条指令执行多少次，物理效果都等同于执行一次，电梯按钮连按五下也只响应一次。落到实现层面有三件套：指令携带全局唯一去重键，执行侧先查重再动作；设备返回确认信号后才更新状态；模型侧加输出schema校验，格式不对直接丢弃。这三层做完，模型一秒连发五次派车指令，底层也只派出一辆车。
人工卡点的监管依据
金融信贷流程里，智能体穿透壳公司找实控人、交叉核对财报与司法数据，把信贷员几周的材料工作压到几分钟——但资质审批、额度拍板、放款触发三个节点必须留给人。这不只是风险偏好问题：监管对互联网贷款的贷前、贷中、贷后环节都有人工审核要求，0.01% 的幻觉造成数亿坏账时，法律责任必须有人可究。代码坐不了牢，每个卡点的具名签字人才构成可追责的责任链路。
多智能体的三颗雷
业务一复杂，架构容易滑向多智能体协作：市场 AI 出选题、脚本 AI 写稿、分镜 AI 画图、剪辑 AI 成片，链条自愈看似优雅。实际落地有三类故障模式要想清楚：
级联污染。上游把材质误写成纯金，下游当事实继续放大，错误沿链路无限扩散。隔离手段是每个节点的输出做 schema 校验加置信度阈值，不达标就中断而不是传递。
死循环。剪辑 AI 打回分镜 AI 重做，标准没硬边界就无限互改，token 预算瞬间烧光。熔断三参数必须配置化：最大往返轮次、单任务预算上限、单步超时时间，任一触顶就抛给人。
通信风暴。节点数上到两位数，链路按 O(N²) 膨胀，治理成本和超时风险同步失控。
多数场景里，「简单确定性工作流 + 清醒的人类节点」比先锋架构扛造得多：通信是线性的，异常直接抛给人，审计成本也低。
评估：看绩效，别看卷面
评估口径要从测试集准确率转向业务指标：工单真实自动关闭率、车辆空驶率、综合物流成本。立基线时把干扰变量隔离开——农业智能体的降本报告若赶上风调雨顺加行情大涨，利润增长不能全记在 AI 头上，跨季节、跨区域的对照实验要放在阶段零。
最硬的一把尺是人工接管次数：宣传降本两成，主管却每天手动纠错五十次，这只是显性成本换隐性人力，自动化根本没成立。这个数字从工单系统埋点取，周报固定口径统计，别靠项目组自报。
智能体往基础设施扎得越深，「高度自治」和「人握机械密钥」两条路线的分野就越清晰。安全和效率的线划在哪，没有标准答案，但幂等性、人工卡点、接管率这三件工具，任何一条路线上都用得上。
评论0