为了应对日益增长的AI安全风险，人工智能（AI）巨头近来呼吁放慢开发节奏。新加坡的AI从业者又在思考什么？
2022年，翁家良、马诚蔚与陈惜惜动笔合写《人本人工智能》（AI for Humanity）。同年底ChatGPT面世，大众对AI的好奇与担忧与日俱增。在追求技术突破的热潮中，三人把问题从“AI能做什么”转向“人如何与AI相处”。2024年，书籍的英文原版由威利（Wiley）出版，中文版2026年由中国人民大学出版社推出。
三人视角互补，能分别从技术、风险与人文的视角理解AI。翁家良是新加坡人工智能国际研究院（AIII）创始人兼院长，在亚洲和美国科技界创业、投资与任教近40年。马诚蔚是新加坡风险与保险管理协会会长，曾在字节跳动等科技企业负责云计算与风险管理。陈惜惜是纪录片制作人和创业者，刚在剑桥大学完成人工智能伦理与社会硕士课程。
让人处于主导位置
马诚蔚目前人在新西兰，没能参加《联合早报》的访问。翁家良和陈惜惜作为代表表示，几年前很少有人留意“人本AI”，如今它变得越来越迫切。所谓人本AI，是指发展AI的出发点不是让机器更强，而是让人始终处于主导位置，在技术、商业化与治理之间求取平衡。
翁家良先用例子解释AI风险：“假设AI受命买一杯咖啡，身上却没有钱。如果它只顾完成目标，又没有价值约束，就可能靠欺骗来消费。孩子遇到同样处境，会先告诉家长自己没钱，因为他知道偷钱不对。”
两者的差别不在能力，而在于有没有价值判断。翁家良认为，治理AI不能只规定它不能做什么，还要“培育”它，“就像教养孩子一样，让它执行任务时自行考虑风险与价值。”
陈惜惜从社会运作角度补充：“社会除了法律，也靠日常规范与文化维系。AI用户众多，应用无所不在，禁令不可能列尽所有情境，所以控制之外必须有培育。”
培育AI需要价值，价值却来自人本身。翁家良提出，人也有不善的一面，要求AI向善之前，人得先检视自己。10月8日，他在新加坡举办“人本人工智能影响力论坛”，邀请来自10多个国家的40多名学者与专家，探讨如何把人本AI推向实际行动。
陈惜惜用书中的“无限镜像”形容：“人与AI持续互动，不断把自身价值投射进去。因此，比起钻研提示词，使用者更需要清楚自己的目的，判断生成结果是否符合自己的价值。人类其实并没有想象中的了解自己。”
陈惜惜感慨，真正的瓶颈是人的学习速度能否跟上，而不只是AI能否更强。
普通人也要读懂AI
既然关键在人，读懂AI就不只是科学家的事，也是每个普通人的事。翁家良希望这本书能与更多人对话，因此请陈惜惜站在不懂技术的读者位置追问。全书没有技术名词堆砌，更多的是图表解释、对话互动和补充背景。
两位作者都有一种紧迫感，翁家良看向人类命运，认为每个人都应具备基本的AI素养，知道AI是什么、怎么用，以及怎样负责任地用。“先要懂得保护自己，才谈得上用技术发挥潜能。”陈惜惜则劝读者别追着每个新版本跑。她说：“了解AI的来龙去脉，想清楚自己要用它做什么，新工具再多也不必慌，不用担心自己落后。”
孩子也是翁家良最关注的群体。新生代从小在AI环境中长大，可许多家长自己还不懂AI，更谈不上引导孩子。他未来想用纸本儿童书做媒介，让家长给孩子讲故事的同时，也学会怎样向孩子解释AI。
AI是不是一种科技诅咒？人与AI能否共存？翁家良坦言不容易，结果取决于人如何培育和行动。陈惜惜则把AI视为重新认识人性的机会：寻找共存之道，先要想清楚人性中哪些东西值得维护。她留给每个AI使用者一个问题：“我自己的价值观到底是什么，我为什么要用AI做这件事情？”
▲AI时代，谁来掌握我们的未来？
10月31日（星期六）下午2时至4时
友谊书斋（231 Bain Street #02-15 Bras Basah Complex S180231）
入场免费
报名链接：mahayuyi-261031.eventbrite.sg/
