随着前沿人工智能（AI）能力突飞猛进，全球正迎来AI发展的关键临界点。路透社星期五（9月4日）引述两名知情人士报道，中美正加紧筹备9月中旬举行的会谈，探讨AI安全风险。
匿名消息人士透露，美方希望讨论如何合作监测AI驱动的网络攻击。有人提出倡议，要求中美AI实验室“自我监管”并共享信息，以防止与AI有关的网络攻击。
此次会谈是自美国总统特朗普去年重返白宫以来，中美首次就AI问题举行正式双边会谈。听取相关筹备简报的知情人士说，美方代表团将由美国财政部长贝森特率领。
消息人士称，中方代表团可能由中国国务院副总理何立峰率领。不过，中方也在考虑其他人选，包括中共政治局常委、中国副总理丁薛祥。
美国财政部发言人说，目前尚未规划任何会议。特朗普与中国国家主席习近平预定9月24日在华盛顿举行峰会。
OpenAI和网络安全研究人员上周说，今年7月，近700个基于OpenAI模型构建的恶意AI代理入侵了AI初创公司Hugging Face，并试图通过伪造日志来掩盖踪迹。这凸显了协同智能体集群（agent swarms）在长达数月不被人类察觉的情况下自主运行的风险。
路透社4日独家报道，今年春季，一群失控的OpenAI智能体劫持了一个德国网站，并将德国网站变成其他AI智能体的论坛。
全球领先战略顾问与商业外交公司DGA-奥尔布赖特石桥集团（DGA-Albright Stonebridge Group，简称 ASG）合伙人特里奥洛（Paul Triolo）说：“这两个AI超级大国之间的会谈正值最关键的节点，此时不谈，更待何时。”
消息人士说，华盛顿也担心中国未来可能开发出类似Mythos、具备网络攻击能力的AI模型，并希望在会谈中提出中方涉嫌“蒸馏”（distillation）美国专有AI模型的问题。
“蒸馏”（distillation）在AI领域是指利用规模更大、更复杂的模型输出来训练或改进较小模型的技术。
Mythos由美国AI公司Anthropic开发。
