针对近期两起律师在诉讼文件中利用生成式人工智能工具，提呈虚构案例或法律依据的事件，新加坡法院划定严格界限，强调律师须对提交内容承担全部责任，并对任何滥用行为采取零容忍态度。
新加坡法院发言人回答《联合早报》询问时指出，这类行为属于“对程序的严重滥用”和“明显的技术滥用”，“绝对不可接受”。
两起事件凸显了AI“幻觉”（hallucination，夹杂不实信息）风险及律师核查义务的重要性。
首起事件的判词今年9月发布，涉及DL Law Corporation的律师拉瓦尼（Lalwani Anil Mangan）。高庭助理主簿陈宇晴下令拉瓦尼支付800元赔偿金，补偿辩方律师乌玛因揭发他在书面陈词中援引不存在案例所耗费的时间与开支。
拉瓦尼称虚构案例由资浅律师生成，但承认应核查内容和负全责。助理主簿强调，引用虚构案例不可接受，指他行为不当和未充分监督同事。
第二起事件发生在一起贷款追讨案中，辩方律师吴碧山（P S Goh & Co）在结案陈词中，引用两个不存在的AI生成案例，被诉方律师揭发，“在任何法律数据库都查不到”。
高庭法官莫罕要求吴碧山说明情况，吴碧山称是请另一律师阿玛吉星（Amarjit Sidhu Law）协助研究，却不知使用什么AI工具。阿玛吉星称，是一时疏忽，绝无意误导法院，并向法院及双方律师，尤其是吴碧山致歉。
莫罕法官将在两名律师提供更多详情后再裁决。
律师公会：律师须确保提交给法庭的案例真实准确
新加坡律师公会受询时说，由于其中一案仍在进行中，且纪律事项属保密，因此无法置评。但公会强调，所有执业律师都应负责任并合乎道德地使用AI，遵守《律师专业法令（专业操守）规则》，始终以诚信为本。
公会指出，司法的有效运行依赖律师的尽职调查和专业判断，确保所有提交的材料充分依据事实，无论是否使用AI工具。律师必须确保提交给法庭的案例真实、准确，因为他们对法院负有至高无上的职责。律师也应保护客户机密信息，避免将客户数据上传至AI系统。
为了协助律师应对AI带来的风险与机遇，公会持续提供资源，并举办网络研讨会和工作坊，还成立生成式人工智能委员会，研究法律实践中的挑战，并适时发布建议。
公会声明，会探索与法院等利益相关方合作，提高法律专业界对负责任使用AI的认知。
针对滥用情况，法院去年10月发布《法院用户使用生成式人工智能工具指南》，明确使用规范，强化律师的专业义务。指南要求律师对所有内容负全责，包括AI生成的材料；所有AI输出都须独立核实，以确保准确性、真实性和适当性。
法院发言人说，当法院发现有人提交虚构或未经核实的AI材料时，可直接在程序内处理。例如，首席法官或司法人员可要求律师查明事实、描述研究过程，并说明材料来源，以判断行为是否不当、不合理或疏忽。
“法院也可将事件转介给新加坡律师公会，由公会根据《律师专业法令》调查可能的专业不当行为。”
根据指南，提交虚构或伪造案例的律师可能面临的后果包括：个人承担费用、提交材料不予采纳，以及纪律处分。
发言人强调，随着技术发展及新滥用模式的出现，法院将继续监控、审查并完善指南及司法应对措施，重点仍在律师的个人责任和独立核实。
“我们旨在为AI的正当使用提供空间，提升效率和效果，同时降低滥用风险。若现行措施不足，法院将采取更强有力的回应。”
