随着人工智能实时监测越来越多金融交易和行为,相关的问责和公平愈加备受关注。每个由人工智能驱使的决定,都必须要有明确的问责机制。

数码发展及新闻部长杨莉明星期六(5月30日)在环球金融科技与社会研究院(Global Institute of Finance, Technology, and Society)成立仪式上致辞时,强调有关论点。

她说,金融业是受严密监管的行业,对良好治理有深入了解,但人工智能改变了整个步调。信用评估、保险承保和监测欺诈行为都已在使用人工智能,而使用速度和规模是治理方面须要跟上的。

杨莉明指出,规定式的条例无论用意再好,可能难以跟上人工智能的发展,甚至拖慢创新。因此,必须重新审视治理模式,建立一个基于原则,以公平公正、道德、问责和透明为核心的治理机制。

“随着人工智能实时监测越来越多交易和行为,问责和公平将愈加重要。自动化决策必须是可以解释的,也经得起质疑。每个由人工智能驱使的决定,也必须要有明确的问责机制,包括使用它的人、流程和机构。”

延伸阅读

新加坡推亚洲首个AI测试认证计划 为业者确立标准
新加坡推亚洲首个AI测试认证计划 为业者确立标准
榜鹅数码园区设AI平台试验机器人服务
榜鹅数码园区设AI平台试验机器人服务

杨莉明说,由于涉及法律、道德、行为科学和公共政策,这些不是金融业或科技业能单独解决的挑战,而是需要跨学科的方案。

“我们需要懂编程的经济师、了解条规的技术专家,以及理解数据、也了解科技背后对人类影响的商业领袖。我们相信这是环球金融科技与社会研究院能起到作用的地方。”

她指出,通过建立深厚的跨领域专业知识,研究院将协助新加坡在推进金融服务领域的人工智能计划方面,严谨地应对以上挑战,制定具公信力的立场,以及加强思想领导力。

环球金融科技与社会研究院由南洋理工大学商学院副院和计算机与数据科学学院联合成立,由南洋理工大学校长讲席教授(金融、计算机和数据科学)丛林引领。

研究院将和不同学科,包括数据科学、计算机科学、经济学、金融、商业、社会科学、应用数学、法律、可持续发展、创业和工程系合作,推进人工智能、数码经济、金融科技、数码资产和新兴商业和社会系统的研究、教育、业界合作和政策发展。

研究院也会和行业领袖和政策制定者密切合作,通过圆桌会议、撰写政策白皮书和孵化应用研究和创业项目等,将研究成果转化为实践,实现公共价值。

其中,研究院已同国际学者和机构,推出两个研究项目。一个是世界经济模型(Economic World Models),旨在了解不同场景下,人类与人工智能代理的互动、市场和机构的反应,以及决策落实前可出现的风险等;另一个是Global InferenceNet,目的是要训练人工智能模型和代理,针对经济、金融、会计、管理、运营和信息系统进行深入研究。

丛林说,环球金融科技与社会研究院的核心理念是个简单信念——智能数码经济也须值得信赖,以及具包容性、韧性和人性。“科技本身不会决定未来,但人类的价值观、制度、奖励机制和公共目标会。”