中国人工智能(AI)初创企业月之暗面7月16日推出的大模型Kimi K3,因性能媲美西方顶尖闭源模型而备受科技圈瞩目。但这款模型推出不到一周,便卷入“蒸馏”风波。

美国白宫科技政策办公室主任克拉齐奥斯星期三(7月22日)在社媒平台X上公开点名月之暗面,指控这家企业在开发K3模型时,对美国Anthropic公司的Fable模型进行蒸馏。

蒸馏是一种由高性能大模型向较小模型进行知识转移的过程,就像“老师”指导“学生”。借助这一技术,研发人员能够提取顶尖前沿系统的海量优质数据,用以训练自身模型,从而减少训练成本。