人工智能(AI)会不会有一天反过来伤害人类呢?这个问题最近又热了起来。

过去一周,与AI相关的新闻报道铺天盖地,多得有些反常。令人关注的是,硅谷的讨论突然从“AI还能跑多快”,转向是不是该踩一下刹车,让AI发展慢下来。其中,Anthropic首席执行官阿莫代伊(Dario Amodei)呼吁放慢前沿AI的发展,让安全措施追上技术进步;OpenAI首席执行官奥尔特曼(Sam Altman)等人随后响应,甚至传出几家头部AI公司正商议成立新的安全机构。另一边,英伟达首席执行官黄仁勋则认为,没有必要因为安全疑虑放慢创新脚步。

这场争论很快也超出美国科技界本身。在中国的相关讨论中,这场围绕AI速度、技术优势与安全的竞争,被一些论者放进所谓“AI新冷战”的框架里。于是,一个原本看似属于科技公司的问题,逐渐变成企业竞争、国家安全乃至地缘政治的问题。同一批最有能力推动这场AI竞赛的人,也成了争论“竞赛该不该减速”的主角。