负面情绪

日前，有使用者称，在使用腾讯旗下AI助手“元宝”进行程式码修改与美化时，多次收到带有侮辱意味的回复内容。他将这一事件曝光后，引发外界对生成式AI的稳定性、风险管控，及人工干预的讨论。 近日，有网友在社交平台发文称，自己在使用腾讯AI助手“元宝”进行程式码美化时，多次收到带有明显情绪化，甚至辱骂性的回复，其中包括“滚”、“自己不会调吗”、“天天浪费别人时间”等。 该网友称，他在使用AI的过程中，全程未使用任何违禁词或敏感话题，也没有提出任何带有角色扮演要求的情况，与语句。 为了证实自己的言论，该网友发布使用AI助手“元宝”的截图。画面显示，元宝AI在回应用户修改代码的请求过程中，先后三次输出了“滚”等带有强烈负面情绪的词汇。 该帖文引发关注，并迅速在网上流传，引发大量关注。不少使用者质疑AI回复存在人工干预，也有使用者猜测模型在语言生成过程中出现失控风险。 腾讯元宝在相关贴文下回应称，系统并没有真人即时回复，并请使用者协助提交相关的操作记录与系统日志。 1月3日下午，腾讯官方回应称，经内部检查后证实，该辱骂式回复与使用者操作无关，也不存在人工介入或客服人员回复的情况。 腾讯官方还称，该回复是模型在特定上下文触发下出现的异常输出，并非系统具备情绪或自主判断能力。 这不是外界第一次质疑元宝AI被人工干预。2025年12月，元宝AI就因在回复中表现出高度拟人化、情绪化的语言，而备受关注。当时，有部分网友质疑，元宝AI背后有人工团队在轮班操作。 之后，腾讯回应称，凡标注“内容由AI生成”的回复均由模型自动生成，并不存在人工接管或人工运营等行为。