当今,各国在加速发展军事人工智能化。威权主义国家军队的人工智能军事利用,会带来怎样的风险,将是一个重要焦点。中国国家主席习近平于中共十九大演讲,公布在强军目标下加速“军事智能化”的方针后,中国人民解放军、研究人员和军工企业就军事智能化进行了讨论,力图更新装备和创新军事战略。中国通过动员组织力量、制度基础、物质资源,在军事人工智能化方面比民主主义国家更有优势。事实上,中国已经推出了比美国更多关于人工智能的研究成果。但是,中国的政治体制和战略文化,会为军事智能化会带来什么风险,尚不明确。
军事智能化的主要作用是加快作战节奏,并使用机器学习算法,进一步实现指挥控制的自主化。军事智能化的终极问题是人与机器协同的平衡,即让人工智能多大程度参与人类战略的决策过程,或者赋予人工智能多大程度自主决策无人武器。在复杂的军事情况下,如果人工智能可证明有超越人类的处理能力,国防官员将更加倾向于信任算法生成的决定。在这种情况下的风险是,人类对人工智能的处理过程的监督,可能会变得不够充分,人与机器合作中的责任共享意识,可能会变得薄弱。人类的警戒心下降,很可能导致作战上的失误和事故风险增加。特别是人工智能不擅长理解人类的信号传递,尤其是降级信号。这是民主国家和威权主义国家都可能发生的问题,也不是中国特有的问题。
人与机器的协同平衡,从维护体制稳定的角度来看是一个难题。在中国,中共为了控制党的军队人民解放军,比起军事合理性更优先政治合理性。重视体制安全的习近平,为了加强党对军队的统治,增加了中央军委中的政治军官,重视军队中的政治思想教育。随着军事智能化带来的节省人力,具有提升单兵军事能力的倾向,所以解放军内部有意识要敲响进一步强化政治思想教育的警钟。从维持政治体制的观点来看,中国共产党不得不牺牲一定的军事合理性,推进军事人工智能化。
