陈迎竹:慎防大数据助长独裁

加减陈词

大数据不是未来课题,当我们开始享受它所带来的众多好处,切不可麻痹在其中,如入鲍鱼之肆,久而不闻其臭。

物联网技术日臻成熟与持续突破,有人估计10年内全世界各种连接到互联网的感应器可能多达1500亿个,这大串数据又交互产生更多内容和信息,超级电脑、人工智能的自我整合与演进将进一步产生多少信息量,以及其中所衍生的意涵,都将远远超过对一个700平方公里智慧国的想象。

全球科技精英近年越来越频繁针对科技迅猛发展所可能造成的各种失控现象发出警告。其中包括广泛的产业转型、人类就业机会的缩减、社会伦理的新挑战、教育和医疗及法律问题等等。

当然也包括民主化课题。大数据科技让各种信息公开化,是“上帝已死”(尼采名言)的最新版本。很多人乐观地认为民众上网就可以查到各种官方信息和记录,对监督政府和政治人物有直接作用,也可以直接反映社会舆论。的确,民主国家社交媒体甚至被形容为“无政府状态”,虽然各种尖酸刻薄占多数,却也有深刻和理性的辩论,在这过程中出现不少意见极端化与对立现象,却没有人会轻率地认为应该终结这些发声的管道。

这一现象的另一面其实更引人担忧。大数据基地的建立几乎只有大型科技企业做得到,在欧美开放社会,这些企业掌握在私人企业家手中,官方要做的是及时制定合适的法律规范,让科技企业在法律范围内运行。科技企业以及行业内部近年自我规范的声音越来越多,由于不同企业间存在技术与商业竞争关系,社会上也有许多独立而自由的专业人士和发声管道,形成一种法律框架内的制衡与自然监督,因此具有可预测的社会伦理关系。

然而在非民主国家,科技的长足进步却给人民带来更多隐忧。这一点在高科技界和西方舆论界有不少讨论。高科技公司如果可以轻易而隐秘地受到政治权力的介入和指挥,为特定政治目的服务,虽未必在短时间造成巨大而广泛的破坏,长远却会对社会国家产生深邃的负面影响。

政治权力缺乏有效制衡或制衡不足的国家,执政者过去要打击异己,必须派人鬼鬼祟祟地跟踪,逮捕后还要神秘拘禁,屈打成招。遇到坚强不屈者,还要制造伪证或干脆炮制成“被死亡”。新科技的联网与便捷则省去这些麻烦,只要控制电信公司,通过手机或其他通讯设备,就能掌控个人大部分行为和社交关系,加上卫星定位和各种感应器,几乎无人可免于监控。

科技做得到这些,不意味科技公司就会这样做,实际上也不大可能有一家规模和制度相对完善的公司会这么做。因为其中涉及各种隐私和安全条例,社会强大的舆论监督,还有公司股东和内部举报机制,科技公司也可能因为行为不当而面对信誉瓦解和公司失败的命运。

但在非民主国家,如果科技公司必须根据政党、政治人物或不受挑战的法律条文的规定,接受政治任务,对个别公民展开监控,甚至造成身体伤害――联网科技完全有能力自行引发电子或机器的故障甚至爆炸――这已经不是一般意义的犯罪,现有的法律制度或许也不足以保护人民。

犯罪动机造成的科技产品意外伤亡,因为背后原因往往需要复杂的技术分析与调查,即便技术领域的人,若不参与其中,也无从解读与判断,而如果政治力量牵涉在动机之中,真相就注定埋没。

这当然是新科技时代可怕的政治画面。不敢面对的人大可说只有屈指可数的异议者会有此遭遇,甚至干脆说“不可能”。然而只要三几宗这样的命案或意外发生,就会迅速引发寒蝉效应,因为一般法医或司法程序很可能根本查不出真实原因,在法律上完全站得住脚,但在民间解读中,这是无从防范的暗杀行为,甚至拿不出喊冤的证据。想想堂堂美国大总统肯尼迪遇刺案,在现在看来那么原始的犯罪,尚且变成悬案,今日科技隔山打牛,内劲哪里来更不可知。

当寒蝉效应扩大,独裁也就在门口。政治独裁必然带来社会全方位的改变,因此问题比其他方面更关键。

美国哥伦比亚大学教授周以真近日在杭州云栖大会对大数据与人工智能可能带来的威胁进行反思。她以FATES这个缩写提出企业负责任操作科技的原则,F即公平,A即可靠,T是透明,E是有道德,S代表安全。

这些原则已逐渐成为科技界的普遍价值,但在一些社会的政治和法律系统或许还没成为共识。

中国政府要建立全面的个人信用评分体系,近年就引起西方学界注意,它不单像现代商业体系对个人金融信用度的全国信息分享,而是包含更多个人行为的综合评分,例如阿里巴巴的信用体系,收集个人朋友圈、购物习惯甚至社交媒体言论行为等给予打分,这些分数可决定个人贷款、工作、签证等结果。由于其中涉及道德层面,实质推行时更值得关注。

大数据不是未来课题,当我们开始享受它所带来的众多好处,切不可麻痹在其中,如入鲍鱼之肆,久而不闻其臭。

(作者是本报编辑组副主任 tanet@sph.com.sg)

LIKE我们的官方面簿网页以获取更多新信息

热词 :

大数据
1