負面情緒

日前，有使用者稱，在使用騰訊旗下AI助手「元寶」進行程式碼修改與美化時，多次收到帶有侮辱意味的回復內容。他將這一事件曝光後，引發外界對生成式AI的穩定性、風險管控，及人工干預的討論。 近日，有網友在社交平台發文稱，自己在使用騰訊AI助手「元寶」進行程式碼美化時，多次收到帶有明顯情緒化，甚至辱罵性的回復，其中包括「滾」、「自己不會調嗎」、「天天浪費別人時間」等。 該網友稱，他在使用AI的過程中，全程未使用任何違禁詞或敏感話題，也沒有提出任何帶有角色扮演要求的情況，與語句。 為了證實自己的言論，該網友發布使用AI助手「元寶」的截圖。畫面顯示，元寶AI在回應用戶修改代碼的請求過程中，先後三次輸出了「滾」等帶有強烈負面情緒的辭彙。 該帖文引發關注，並迅速在網上流傳，引發大量關注。不少使用者質疑AI回復存在人工干預，也有使用者猜測模型在語言生成過程中出現失控風險。 騰訊元寶在相關貼文下回應稱，系統並沒有真人即時回復，並請使用者協助提交相關的操作記錄與系統日誌。 1月3日下午，騰訊官方回應稱，經內部檢查後證實，該辱罵式回復與使用者操作無關，也不存在人工介入或客服人員回復的情況。 騰訊官方還稱，該回復是模型在特定上下文觸發下出現的異常輸出，並非系統具備情緒或自主判斷能力。 這不是外界第一次質疑元寶AI被人工干預。2025年12月，元寶AI就因在回復中表現出高度擬人化、情緒化的語言，而備受關注。當時，有部分網友質疑，元寶AI背後有人工團隊在輪班操作。 之後，騰訊回應稱，凡標註「內容由AI生成」的回復均由模型自動生成，並不存在人工接管或人工運營等行為。