人工智能科技是一代人最大的科技突破,但外交部长维文医生也担心,具有谈判、交易、买卖、说服和动员能力的“具交易能力人工智能体”一旦出现,政府就须解决这项新科技给就业、政治和外交带来的问题。
在美国纽约访问的维文,美东时间星期四(9月21日)上午通过视讯连线方式,参加在美国华盛顿特区举行的全球新兴科技峰会(Global Emerging Tech Summit)一场有关人工智能的对话。
他在回答美国著名安全事务记者珍妮梅泽夫(Jeanne Meserve)有关人工智能如何用于推进实现可持续发展目标的提问时,讲述了他在三个层面上对“具交易能力人工智能体”(AI agents with transactional ability)的担忧。
维文指出,政府首先必须让人们相信,他们将具有驾驭这些新工具的技能,做这些工具的主人,而不是因为这些工具出现而被裁退。
其次,“具交易能力人工智能体”将能够针对适当的人群和政治团体来定制和精准投放信息,如果不正视这类科技对政治的影响,民主政治将被技术颠覆。
维文回顾冷战时期,苏联和美国拥有核武器,人们也了解相互保证毁灭(Mutually Assured Destruction)和核威慑,双方都知道战争是坏消息。他说:“人们得设置热线、设定交战规则,甚至开始讨论战略和军备上的限制。”
未来战术和战略系统将有AI嵌入
他认为,人类世界已经处于运用无人机、自动武器、集群智能等科技作战的阶段,扳机上的手指不是人类,而是一个机器系统,因为同时可能有许多目标出现,不可能由人手扣动每一个扳机。但是,未来的战术和战略系统将有人工智能系统深深嵌入其中,可人类还需要时间思考才能得出结论。
维文表达了他对这个场景深切的担忧:“未来的总统能有多少时间决定,是否要按下终极的核按钮?”
维文星期四下午也在新加坡驻联合国常任代表处主持了小国论坛(Forum of Small States,简称FOSS)的招待会。他在发言中肯定了这个组织对多边主义的共同承诺,并呼吁组织加大发声力度,帮助制定国际规范。
我国1992年牵头发起小国论坛组织,并在过去30年来一直担任主席国。小国论坛目前已拥有108个国家成员,占联合国会员国总数的一半以上。