AI灭世警告　仅1%可能也要防

当AI的智能超越人类，人类该如何与它共处？政府、教育机构、企业乃至每一个人，又该做好哪些准备？新加坡人工智能国际研究院创始人兼院长翁家良博士从风险管理、教育变革、自主化武器，谈到他推动“人本人工智能”的初衷。

人工智能国际研究院创始人兼院长翁家良今年推出中文版《人本人工智能》，深入探讨AI发展。（吴先邦摄）

美国AI巨头Anthropic的前研究员考克森（Jacob Coxon）最近警告，AI可能在2030年以前把人类杀光，在全球引爆一阵“世界末日”恐慌，一些科技业界高层也呼吁放慢AI的开发速度。对此，人工智能专家翁家良博士认为，这样的警告并非危言耸听，人类必须正视AI的潜在风险，并及早做好防范。

翁家良是新加坡人工智能国际研究院（Artificial Intelligence International Institute，简称AIII）创始人兼院长，拥有长达40年的AI研究与实践经验。他接受专访时说：“AI可以自我学习，自我进化。它不一定会造成危险，但你不知道它会演变成什么，是一个未知数。如果你有一个小孩子，每天让他跟朋友吃喝玩乐，你会知道他将来变成怎么样吗？这道理是一样的。”

翁家良指出，AI有几个特点：第一、学习能力极强；第二、不需要休息或睡觉，可以持续运作；第三、算力越强，能力就越强，运作速度也越快；第四、AI可以同时部署大量代理（agent），让它们各自学习、累积经验，再迅速将所学分享给其他代理，实现知识的快速传播与复制。

他说：“当AI的智能超越人类以后，它可以做一些我们想象不到的事。不一定会出问题，但这个可能性是有的。就算只有百分之一的可能，我们也要做好准备。比方，你小孩子有百分之一概率会被车撞到，你肯定会马上去做一些防范。那为什么我们现在知道AI可能有一些风险，还继续往前走呢？这是非常危险的！”

优先保护脆弱群体

人类该如何利用和管理AI的风险？翁家良认为，儿童、青少年及年长者等是较容易受到AI影响的脆弱群体，政府须要尽快制定相关政策或法律，让他们优先受到保护。

另一方面，AI也改变了整个教育生态，包括学习方式和未来就业模式。他认为，政府、教育机构及企业等都必须共同应对这些变化，重新思考教育的方向与未来人才的培养方式。

翁家良特别提到了采用AI技术的自主化武器，“全球各国必须达成共识，不会在原子弹或生化武器等上面运用，不然这会带来毁灭性的灾难。”

翁家良在第二届AICon论坛上演讲，分享人工智能趋势与人本AI理念。（吴先邦摄）

人工智能国际研究院携手伙伴机构，于10月8日和9日在*Scape青年中心举办第二届“AICon论坛”，邀请学者、商界领袖等分享见解与经验。AICon也向公众开放，让更多人有机会了解人工智能的发展。

如何负责任地运用AI

翁家良说：“今年AICon的主题是‘人人都能使用AI’（AI for everyone）。AI不只是少数人的专利，必须人人可及和可负担，让每个人都能享受好处。我们希望能提升大家的人工智能素养（AI literacy）。无论男女老少，都应该了解AI是什么，如何使用AI，以及如何负责任地运用这项技术，既对自己负责，也顾及他人的权益。许多论坛往往停留在讨论层面，缺乏具体的行动计划，然而我们会要求AICon的参与者提供明确的行动方案。”

强调人要处于主导位置

翁家良与马诚蔚、陈惜惜在2024年联手出版英文著作“AI for Humanity”（《人本人工智能》），并于今年推出中文版。所谓人本人工智能，是指发展AI的出发点不是让机器更强，而是“以人为本”，让人始终处于主导位置，在技术、商业化与治理之间求取平衡。

被问到为何要出中文版，他说：“很少新加坡人在中国出版中文书。这本书不中也不西，体现了新加坡人独立的思考立场。中国有很大的阅读群体，而且也是AI强国，如果这本书能让更多中国人支持人本人工智能，是件好事。若中国能带动人本人工智能的发展，就可让全球十多亿人受益。”

翁家良出生在马来西亚沙巴州的斗湖（Tawau），14岁被父母送来新加坡就读中学。他从国家初级学院毕业后，于1984年远赴美国得克萨斯大学攻读电脑科学，后来也获得信息化系统管理博士学位。他于1986年加入美国奥斯汀的MCC研究实验室，开启了他的人工智能之路。1995年，加入Trilogy科技公司，参与构建大规模人工智能及互联网的企业解决方案。