韩咏梅:现代人的“伪安全感”

练习曲

如果人类越来越习惯甚至依赖“防呆机制”,失去了人类本能的防范心,未来会不会有更多荒诞的错误,造成更大的损失?

父母年纪大了,很多事情需要帮他们处理,比如做各种各样的申请。以前他们可以自己到各政府部门的柜台去排队,如今老人家行动不便或者留医治疗,已经不能自己处理。幸好新加坡的政府服务数码化工作还不错,很多事情可以在电脑上解决,省下一些跑动和排队等候的时间,在家里就能做好多事,包括请女佣。母亲需要学当好雇主,可以帮她报名网上课程,陪她上课考取证书。

我虽不算网络原住民,在媒体工作多年,加上负责数码方面的业务,上网做这些事情,是很理所当然的事。对70多岁的母亲来说,网络世界却寸步难行。她受过教育,懂得看英文,退休前是一名护士,电脑对她来说是退休后学唱卡拉OK,或者和在海外的舅舅沟通的工具。在网上申请东西,她是怎么也不敢独自尝试的。

在政府网站做任何申请,首先需要用到SingPass。老人家记忆力不好,久久用一次的SingPass密码,总是记不起来。去年报税时忘过一次,特地到联络所去帮她更新,还看着她用纸笔记下。这次再需要用时,她又记不起究竟记录在哪里了。

好在政府网站最近程序改进了一些,多了重新设定密码的功能,按一下“Forget Password”(忘记密码)键,回答一些问题,就可以重新设定密码。这么做需要回答几道自己预选的问题,比如“你的小名”“你的小学”“你母亲的名字”。这些看似简单的问题,对英文不好的长辈还真是个挑战。他们往往忘记正确的拼音,比如过世多年的外祖母名字“玉凤”,我母亲就不太确定是Yoke Fong还是York Fong。还有,在回答这些预设问题时,答案是大写、小写,中间有没有留空格,母亲都没有特别留意。我只能希望自己运气不太坏,在三次试错的机会之前,输入正确答案。

每次输入错误,母亲就特别紧张,生怕电脑会坏或者数据会被删除,然而越紧张焦虑,记忆力就越不清楚,手指也越不听话,更容易出错。每次我都得安慰她,电脑没那么可怕,错了就重来,当机的话就重新启动。可是,面对不熟悉的机器和无法预知的后果,她总是却步。

渐渐地我理解了父母那一代在成长和工作的时间里,犯错所需要付出的代价和成本,是资源缺乏的环境里难以承受的;而较年轻的我们,对科技和器材的勇于尝试,只是因为我们习惯了现代科技。这与智力无关,很大程度是因为好的现代科技产品或者程序,会包容可能犯的错误,预先做了防范,才让我们自我感觉“很厉害”,可以不假思索地游走于程序之中。

这种防范错误的机制,技术名称是“防呆装置”(fool-proofing)。防呆机制的基本原则是:使运作轻松;让操作者不需要很多技巧,只凭直觉;使作业不会有危险。好的防呆设计,让使用者不需要经验与专业知识,即可直觉无误完成正确的操作,有些情况下可以通过警告装置,提醒使用者如何因应处理,及时矫正。

“防呆机制”这个词因为台湾海军雄三导弹误射事件,过去几天在新闻里一再出现。这起乌龙事件中肇祸的士兵,在没有长官在场的情况下,误把“训练模式”改成“作战模式”,导致导弹误射,击中无辜的渔船,酿成一死三伤。事后的调查称,这不是一个人的操作失误,而是一连串违反纪律和连续犯错造成的。调查单位建议需要重新检讨程序,植入一套“防呆机制”,确保每一个环节都不会因为有人糊涂、擅离职守或者什么意料不到的原因出错,造成无可挽回的失误。

在制度上亡羊补牢,或许可以避免下一次类似失误的发生,但是如果人类越来越习惯甚至依赖“防呆机制”,失去了人类本能的防范心,未来会不会有更多荒诞的错误,造成更大的损失?

一个多月前美国特斯拉(Tesla)自动驾驶车,在佛罗里达州与一辆货柜车相撞的致命事故,提醒我们深思这个问题。

那起车祸发生在一个没有交通灯的公路交界。当时,一辆货柜车在特斯拉车前左转,司机与自动驾驶感应系统都没有察觉货柜车的白色一面,因此没有刹车,车头直撞货柜车底部。据调查,事故的发生可能是因为当天天气晴朗,阳光把环境照得很亮,货柜车不巧又是白色,特斯拉的感应器误把白色的货柜车身当成环境色,因此完全没有启动刹车,直接往卡车冲去。车主在事故中惨死。

车主当时在干什么?有目击者说,事发时车内屏幕播放着《哈利波特》。我们不能就此断言车主因为看戏而没有注意安全,但是从事发经过看来,如果他当时不是完全信任自动驾驶车的性能,应该还来得及做出某种补救。

有意思的是,特斯拉的执行长伊隆·马斯克(Elon Musk)6月底在一项科技论坛上发言说,我们现在的数码游戏已经非常接近现实,绘图渲染和人工智慧的进步,也让虚拟世界和真实世界的界线越来越模糊。他甚至怀疑一些人其实已经活在科技和电玩构建的虚拟实境里。

冷静想想,每天和互联网以及各种科技产品打交道,所谓的好的“用户体验”(user experience)、完善的防呆机制等等,慢慢地让我们对一般的失误产生了免疫力,养出一种“伪安全感”,以为制度可以保护我们免于灾祸,然而更大的灾祸偏偏就发生在人类最掉以轻心的时候。

父母亲那一代使用科技产品时的小心翼翼,还是有某种参考意义的。因为任何科技产品、人工智能,背后总有一个写程序的血肉之躯。智者千虑必有一失,如果我们过于相信科技和制度中的“防呆机制”,不幸的话会毁灭在我们自己所制造出的“伪安全感”里。

(作者是华文媒体集团数码总编辑

兼早报副总编辑 hanym@sph.com.sg)

LIKE我们的官方面簿网页以获取更多新信息

1