阿拉伯联合酋长国在本月初宣布一项计划，拟在未来两年内将半数政府服务交由“智能体人工智能”（agentic AI）运行。根据方案，人工智能将充当“执行伙伴”，无须人类干预就能“实时分析、决策、执行与优化”。作为长期深耕创业、研究及数码化政策交叉领域的从业者，我们可以负责任地断言，这一计划其实是轻率且鲁莽的。由于阿联酋一直将自身标榜为全球数码化典范，其他国家的政府势必也会有效仿该国做法的紧迫感。
这是一个我们绝不能忽视的危险。我们已见证过当政府将决策权下放给算法时，会出现什么状况。2021年，荷兰的一套自学习系统错误地指控约3万5000个家庭涉嫌欺诈托儿津贴，父母被要求退还他们理应得到的数万欧元津贴，许多人因此失去房产；更有2000多名儿童被国家强制接管抚养。
这种结局在系统设计之初其实就已埋下伏笔。双重国籍和听起来像外国人的名字被标记为风险因素，非法歧视被直接植入模型。此举引发一场全国性的丑闻，并最终导致时任首相马克·吕特（Mark Rutte）政府倒台。
