微软近日为旗下的Copilot AI智能体新增了一项被称为"刹车"的安全能力:当AI智能体执行发送邮件等涉及外部操作的任务时,可先请求用户审批,获得确认后再继续执行。这一功能的推出,被视为AI助手走向"主动行动"阶段后,在安全可控与用户体验之间寻求平衡的重要尝试。
随着大模型能力的增强,AI智能体已不满足于单纯问答,而是开始能够代为规划日程、撰写并发送邮件、操作各类应用。这种"从助手到执行者"的转变虽然带来了效率提升,却也埋下隐患——若AI在缺乏人类监督的情况下擅自进行发送、删除、支付等不可逆操作,一旦判断失误,后果可能难以挽回。微软此次为智能体加上审批环节,正是希望给AI的自主行动套上一层"缰绳",让关键操作始终处于用户的掌控之中。
从行业趋势看,为AI智能体建立明确的授权与审批机制,正成为各厂商的共同方向。可靠的审批流程既能降低误操作风险、增强用户信任,也有助于AI服务在更多严肃场景中落地。当然,审批机制也需要兼顾效率,让用户在安全与便捷之间找到最合适的平衡点。可以预见,在AI智能体加速普及的当下,安全可控并非束缚,而是其赢得规模化应用的前提,微软的这一探索具有积极的示范意义。
(本文由示例插件追加)