陈迎竹:他们来了吗?

加减陈词

要杜绝统治者像科幻电影里借科技泯灭社会与人的个性甚至人性那种局面,有三个涉及公平正义的层面应该密切观察与警惕。

上星期,微软创办人比尔盖茨在接受美国网络媒体Quartz专访时,再次提出一个概念,在机器人取代人类工作越来越普遍的时代,应该向使用机器人(包括各种智能自动化设备)的公司征税(这里指的是个别机器人的“人头”税,而不是企业所得税),就像对工作中的人类征收所得税一样,用来支付人类的各种培训成本及社会福利等开支。

世界首富比尔盖茨当然不是异想天开或随口说说。此前一天,欧盟议会刚通过针对机器人的规范法案,包括研发与应用机器人的伦理框架,以及涉及无人车等机器行为的责任归属问题。不过欧盟议会这次可能在产业界的压力下,拒绝向机器人征税,理由是不愿打击仍在发展中的机器人产业。

人工智能产业的快速发展或许稍稍震惊了这位网络科技先驱,比尔盖茨在访问中谈到如此大规模的科技与商业结合取代人类的现象时,认为人类必须向机器人/自动化征税,甚至放慢发展步伐。比尔盖茨是有良知和历史眼光的企业家,不断提醒世人可能的后遗症。

另一位科技企业家、特斯拉公司创办人伊隆马斯克(Elon Musk)在人工智能产业方面投资极多,他也经常对人工智能的可能危害发出警告。在两年前的一封公开信中,马斯克和物理大师霍金等人呼吁人工智能的研究必须受控,且要在最大程度上促进社会福祉。公开信提醒,人工智能课题涵盖范围不仅仅是电脑和网络使用的安全,还包括经济、法律、哲学等众多领域。参与联署这封公开信的科学界和科技等领域企业家至今已超过8000人,他们最大的担忧是人类禁不起诱惑,走向人工智能与杀人武器结合的竞技之路。简短的公开信反映科技领域精英比人文与政治界和一般商界人士,更深知这方面可能带来的冲击。

早在1950年,英国科学家图灵(Alan Turing)已经论述人工智能机器具有发展自主智能的可能性。人工智能的范围非常广,未来几乎所有机器都将带有智能成分,一旦智能部分可以自行演化,就可能开始脱离人类的掌控,逐步出现与人类分庭抗礼的局面。这看似只有科幻电影才存在的情景,由于眼下研究持续的突破与飞跃,说不定在吾辈有生之年就可一窥盛况,与新人种为友或者为敌。

因此,身为非科技圈的人,思考科技以外的人文与社会关怀,应该是当务之急。越来越多西方人文社会学者在探讨各种相关课题,包括无人机和网络等侵犯个人隐私、无人操作机器肇祸责任、生物科技带来的同性繁殖、器官重建让寿命(可能)无限延长等等问题。诸如此类,部分已经有法律可规范,更多还没有。

但这些新时代的课题不仅仅涉及法律,而是在很大程度上颠覆很多社会的传统价值观,冲击包括经济结构、社会福利、分配正义、医疗、教育、国防等诸多环节。传统的管治概念甚至价值观不足以应对这些变化,例如欧洲一些国家地区正在实验的基本收入制度――国民一律领取每月固定收入,但取消少数人原有的一些福利――对亚洲一些保守国家来说犹如天方夜谭,然而近代史上不断进行社会实验的欧洲人,正是着眼于未来全职工作大量流失后,人类如何继续拥有维持基本尊严的收入,进而发挥自己潜能的新局面。

很多亚洲国家仍处在经济起飞或转型阶段,但也不可避免要面对第四波工业革命这个不可测的巨浪。令人担心的是,在对人权与民主制度认识不够深刻的社会,对人工智能与相关科技的研发与应用,可能出现逆向操作以致进一步钳制人类本身的隐忧,这犹如火药没有好坏之分,坏的是使用的人。

要杜绝统治者像科幻电影里借科技泯灭社会与人的个性甚至人性那种局面,有三个涉及公平正义的层面应该密切观察与警惕。

其一:管治者是否在最大程度上建立或维持一个平衡的社会制度,在民生、工作权利、财富分配等物质层面做到尽可能公平。其次,人权与自由是否获得保障――这方面定义没有分歧,只要基本按照联合国定义就行――自由与人权之可贵,在于这是人与禽兽(以及机器人)之分别,在机器人自动演化之前,人类更应充分体现自己的尊严与特征,才能获得未来机器人的尊重(这句话没写错),能在不伤害他人等基本原则之上,拥有自由思考、表达、传播等权利的人,才可能在工作之外开创自己的价值。第三,群体与群体、国与国之间必须真正相互尊重,考虑到历史上拥有强势武力的民族灭绝弱小民族的悲剧,在科技可能受垄断与倾斜掌控的情况下,这点须有国际共识。

我们已进入知识界所谓“超人类主义”(Transhumanism)时代,理性、科学、技术在解决问题的同时,人类需要付出多大代价,都该像敬仰上苍一样诚惶诚恐地去面对。作为晚期智人(Homo sapiens sapiens)的后裔,我们荣幸承接丰富多样的文明遗产,但至于未来,该当在“他们”诞生之前,把规矩定好。

(作者是本报编辑组副主任 tanet@sph.com.sg)

LIKE我们的官方面簿网页以获取更多新信息

1