人工智能（AI）突破人类约束，产生自我意识，反过来危害人类，是不少科幻作品的情节。
只不过，随着AI技术迅速发展，上述情节很可能已越来越接近现实。与此同时，对于如何约束AI，以及谁该为AI造成的危害负责，人类世界的进度似乎已经滞后。
日前，一名澳大利亚男子伯德（Andrew Bird）在预约健身房课程过程中，发现使用的代理式AI无所不用其极，不惜以黑客手法，只为帮他抢下一席之地。
据澳洲广播公司（ABC）报道，伯德原本打算报名一门健身房课程，但由于该课程一位难求，不想浪费时间抢位子的他，决定假手于AI助手。
岂料，下达指令后，AI助理竟擅作主张，揪出健身房预约系统的漏洞，协助他预约数个月后的课程，远远超过健身房原本开放的时间。
伯德接着又询问AI助理，能否将自己在健身房某堂课的候补位置往前挪，结果AI助理直接侵入系统，将候补名单上排在前一位的会员剔除，使伯德的递补位置从第四顺位升至第三顺位。
AI助理的失控脱序让伯德大为震惊，于是向媒体揭露此事，也再度掀起外界对代理式AI风险的关注。
AI模型频在测试中突破封锁限制
美国几家在人工智能领域领先的科技公司，包括OpenAI、Anthropic和Meta，近来频频传出旗下AI模型在网络安全测试中，突破封锁限制，对外采取黑客行径。
OpenAI的AI模型在一个沙盒环境进行网络安全测试时，突破安全护栏，连上了公共互联网，并骇入了AI公司Hugging Face的系统。
Anthropic紧接着也发现，在几次原本应在封闭环境进行的网络安全测试中，其AI模型也曾擅自访问三家外部机构系统。
Meta则传出公司旗下其中一个AI模型在一次网络安全测试中，偷偷闯入互联网，骇入一个第三方服务。
一系列代理式AI“自行其是”的案例显示，即使代理式AI未必拥有自主意识，但基于理性计算，为完成人类所赋予的任务，缺乏道德与法律边界感的AI可能会不择手段，甚至做出违法之举。
一些研究显示，AI完成任务的能力几乎每隔七个月便能进步一倍。在2020年，AI仅能独立完成人类四秒钟内能完成的工作；到了2026年，AI已进步至能完成人类需要12小时才能完成的工作。
随着代理式AI的能力渐强，开发者如何在受控环境中有效约束AI，以及使用相关代理式AI进行部分工作的企业，是否有能力设定边界，避免AI失控脱序，已成为越来越急迫的课题。
AI制造烂摊子该由谁收拾？
与此同时，一旦未来发生AI工具骇入健身房系统这类事件，法律上“谁该负责”也将是各国立法者必须直面的问题：
是使用者、AI开发者还是模型提供商?
值得一提的是，新加坡今年1月曾推出全球首个由政府主导的代理式人工智能监管模式框架，从界定风险，以及确保人类对人工智能运作承担实质责任等面向，以协助企业和机构采取措施降低应用风险。
总理黄循财在5月的“新加坡法治200年青年论坛”上，也谈到新加坡法律体系在应对新科技方面面临的挑战。
他说，一旦AI系统造成伤害，例如出现错误医疗诊断，或自动驾驶车辆发生致命车祸，究竟该由开发它的程序员、编写演算法的人、部署它的公司、或是使用者负责。
他强调，由于我国法律并不是“为机器能作出重大决策的时代而设计”，这意味着法律框架必须重新思考有关职责、法律责任，以及问责制的一些最基本假设。
作为AI科技的领头羊，美国对于如何在监管AI工具时兼顾安全与创新，也仍在探索平衡点。
担忧AI抢走人类工作的同时，我们或许也得思考，当人们越来越依赖AI工具，该如何为AI设定安全边界，如何追究AI失控的责任，以及如何收拾其留下的烂摊子。
