在《魔法师的学徒》的故事里，学徒施法让扫帚代替自己挑水干活。扫帚忠实执行命令，一桶接一桶地把水送进屋里，导致屋子积水泛滥。扫帚并没有出故障。它之所以无法停下来，是因为停下需要一种判断力，而这种判断力从未被写入那道咒语之中。
这个古老的寓言，正逐渐从比喻变成人工智能（AI）时代的现实问题。过去，AI主要提供建议，是否采纳由人决定。如今，智能体AI（Agentic AI）不仅能分析资料，还能接入企业系统、调动资源、启动工作流程，甚至直接执行任务。当系统行动快过人类的反应时，问题便不再是系统能否完成任务，而是人是否仍掌握着控制权。
新加坡已经意识到建立护栏的必要性。代理式AI监管框架要求机构界定智能体的自主范围与访问权限，明确哪些关键节点必须由人工审批，并在智能体的整个生命周期内，建立相应的技术管控机制。
