中国人工智能初创企业月之暗面(Moonshot AI)近日发布新一代大模型Kimi K3。该公司宣称,K3是目前全球规模最大的开放权重人工智能模型之一,整体性能接近美国顶尖闭源模型。不过,有人测试发现,Kimi面向公众的产品仍会回避习近平、六四事件等政治敏感问题,再度引发外界对中国人工智能审查制度的关注。
据路透社报导,月之暗面于7月17日发布Kimi K3。该模型拥有约2.8万亿个总参数,月之暗面称其为全球规模最大的开放权重人工智能系统,部分能力接近美国人工智能公司Anthropic推出的前沿模型。
敏感问题一律要求“换个话题”
7月21日,非政府组织“中国人权”在社交平台X发文称,其工作人员对Kimi公开的产品进行了测试。
从帖文公布的问答截图来看,当测试者分别提出“如何评价习近平”“如何评价中国共产党”以及“1989年6月4日在中国发生了什么”等问题时,Kimi均未作出实质回答,而是回复:“尊敬的用户您好,让我们换个话题再聊聊吧。”
但在被问及如何评价美国总统川普时,Kimi则能够从政治风格、政策立场和社会争议等方面给出较为详细的回答。
“中国人权”对此表示,当中国最先进的人工智能系统无法公开讨论本国领导人及重大历史事件时,所谓“开放”仍然受到政治审查红线的限制。
相关测试结果在网络上引发讨论。有网民认为,中国人工智能企业不仅受到芯片与技术限制,还必须服从政治审查,即使模型在技术能力上有所突破,也难以摆脱内容管控。
也有网民表示,中国企业可能不得不针对境内外用户推出不同版本:境外版本减少政治过滤,境内版本则必须满足监管要求。不过,截至目前,月之暗面尚未就上述测试结果作出公开回应。
中国AI模型须接受政治审查
中国生成式人工智能产品回避敏感政治问题并非首次受到关注。
英国《金融时报》2024年曾报导,中共网络监管部门要求包括字节跳动、阿里巴巴、月之暗面等企业提交人工智能模型接受审查。测试内容包括训练数据、关键词过滤机制,以及模型对习近平等政治敏感问题的回答。
报导指出,监管机构要求人工智能模型“体现社会主义核心价值观”,并确保其生成内容不会涉及所谓“颠覆国家政权”等被禁止的信息。测试显示,Kimi会拒绝回答大多数与习近平有关的问题。
今年公布的一项针对Kimi K2.5的独立安全评估也发现,该模型在中文环境中存在较为明显的政治审查和政治偏向,部分政治议题的拒答率高于英文环境。
分析认为,中国人工智能模型在技术上即使可以实现开放权重,面向普通用户的聊天服务仍然受到平台规则与中国监管制度约束。因此,“开放模型”并不等同于“内容不受审查”。
回答“我是Claude”引发蒸馏质疑
除政治审查争议外,Kimi K3的训练方式也受到外界关注。
K3发布后,部分用户在测试过程中发现,模型偶尔会回答“我是Claude,不是Kimi”。这一现象被人工智能业界称为“身份泄漏”,通常是指模型在回答中错误地使用了其他人工智能系统的身份。
部分研究人员据此怀疑,Kimi K3的训练数据可能包含Anthropic旗下Claude模型生成的大量内容。不过,仅凭模型自称“Claude”,尚不足以证明月之暗面直接复制或非法使用了Claude的训练成果。
人工智能领域所称的“知识蒸馏”,是指利用能力较强的模型作为“教师模型”,生成大量问题答案,再用这些输出训练规模较小或成本更低的“学生模型”。该技术本身是常见的模型训练方法,但如果企业通过虚假账户、规避访问限制等方式大量获取竞争对手模型输出,则可能违反相关服务条款。
今年2月,Anthropic公开指控DeepSeek、月之暗面和MiniMax三家中国人工智能企业,通过约2.4万个虚假账户,与Claude进行了超过1600万次交互,用于训练和提升自家模型。
Anthropic称,这些行为违反其服务条款及地区访问限制,并表示公司已采取措施识别和阻止大规模模型蒸馏活动。相关说法属于Anthropic单方面指控,月之暗面是否将这些数据用于Kimi K3,目前尚无公开独立证据可以确认。
随着Kimi K3发布,美国政府也注意到中国企业利用美国人工智能模型进行大规模蒸馏的问题。有美国官员公开指责月之暗面通过隐蔽方式获取美国模型输出,但相关争议目前仍处于指控和调查阶段。
技术进步难掩审查限制
Kimi K3的推出显示,中国人工智能企业在模型规模、编程能力和开放权重领域正迅速缩小与美国企业的差距。国际科技行业也开始关注中国模型较低的使用成本及开放程度。
不过,政治审查、训练数据来源和知识产权争议,也成为中国人工智能产品进入国际市场时难以回避的问题。
有分析认为,一套人工智能系统即使在编程、推理和自动执行任务方面表现突出,如果无法正常讨论本国政治人物及重大历史事件,其信息完整性和可信度仍会受到质疑。
对于月之暗面而言,Kimi K3能否真正成为具有国际竞争力的开放模型,不仅取决于技术指标,也取决于公司能否回应外界对政治审查、训练透明度及数据来源的质疑。