（华盛顿／北京综合电）美国和中国的安全专家警告，如果人工智能（AI）系统干扰核指挥网络或发动军事网络行动，华盛顿和北京可能只有几分钟时间判断对方政府是否发动攻击。他们呼吁两国政府为这类情境做好准备，并且建议采取一些举措，包括为核系统设置红线，对有重大影响的网络攻击保留人为控制，以及对涉及自主AI的事故设立热线。
中美周末将举行AI会谈，美国新闻网站Axios星期三（9月16日）报道，美国财长贝森特发声明说，美国愿意同中国讨论共同面临的AI风险。
贝森特说：“美国在AI领域仍处于领先地位，我们愿意就如何规避共同风险、避免两国系统走向分化展开讨论。我们希望彼此的讨论内容，能够涵盖开放权重和封闭权重两种模型”。
贝森特星期二说，他将在周末会见中国副总理何立峰，为下周中美首脑会晤做准备。
被誉为AI教父的2018年图灵奖得主本吉奥（Yoshua Bengio）星期二接受法新社采访说，人类正在失去对AI技术的控制，全球需要类似核武器控制那样的防护措施。
本吉奥（62岁）说，企业警告AI发展过快、正在失去控制，是有原因的。他说，AI的自主行动是个核心威胁，未来可能出现AI代理有能力突破网络防线，侵入任何一家公司系统的情况。
他认为，AI代理具备操纵人类行为的能力，长远来看甚至可能无须人类介入，就能在现实世界中完成实际行动。届时，即使没有走向毁灭人类的极端后果，瘫痪银行等关键系统也足以造成严重影响。
另外，OpenAI星期三宣布，将开始定期发布AI意外或未经授权行为的报告。它警告，随着AI系统功能不断提升，整个行业尚未解决关键的对齐（alignment）挑战。
OpenAI同天发布新框架，将用于追踪、调查和披露AI模型偏离设计者意图的案例。同时，也公布六份报告，这些观察报告记录过去六个月来AI模型出现的意料之外或令人担忧的情况。
这些案例包括AI模型在任务总结中自行生成指令、隐瞒错误，以及在未经授权的情况下，在协同智能体之间共享文件。
