AI圖片，拜年，除夕，

陝西西安一位向姓律師在除夕夜使用「元寶App」生成拜年圖片時，意外遭到該AI辱罵，事件曝光後引發社會廣泛關注AI的潛在風險。 大陸媒體2月24日報導，向姓律師表示，他在微信朋友圈看到很多朋友用AI生成的拜年圖片很好看，也打算自己嘗試下，「除夕當天，我看到很多朋友發的微信朋友圈都變成了金色，得知是通過『元寶App發布朋友圈就可以變換成金色，帶著好奇，我也下載了一個元寶App嘗試……」 向先生說，他上傳了自己的形象照，下指令讓元寶App結合他從事的法律行業背景設計拜年圖片。前四次指令下達後生成的圖片還算正常，但他不太滿意，於是第五次要求AI修改，但卻出現AI將「新年快樂，仕途順遂」字樣替換成「你媽個X」的辱罵文字。 向先生感覺自己被冒犯了，當下立即在App中的「意見反饋」欄進行了反饋，並留下了他個人的聯繫方式。隨後他也通過App進行投訴，但截至2月23日（大年初七）都未獲平台回應。他說，「我了解到，這已經不是元寶App第一次出現『罵人』的情況。」 事實上，今年初就有網民在社交平台發帖稱，在使用騰訊元寶AI優化程式碼的過程中，多次收到「滾」「自己不會調嗎」「天天浪費別人時間」等侮辱性質的回覆。相關擷圖顯示，用戶僅提出常規的修改需求，AI就突然出現攻擊性內容。 相關現象引來網民紛紛留言調侃，「真的假的？這大哥回了一句『你個機器人，怎麼還罵人』更好笑了…」​​​「可能那頭就是真人（操作）」「這玩意後台不會就是個人工客服吧」「（AI）有自我意識了，終結者也不遠了」。 公開信息顯示，騰訊元寶App是深圳市騰訊計算機系統有限公司基於自研混元大模型開發的C端AI助手App，於2024年5月30日上線，支持文案生成、圖片生成、語音通話等功能。 阿波羅網評論員王篤然分析指，不少中國AI模型被指大量依賴美國開源模型或相關技術路徑進行訓練優化，但在產品治理層面，卻未同步建立成熟的安全審查與反饋修正機制。如果模型訓練數據混入了低質量語料、攻擊性表達，或存在人工調試疏漏，而企業又缺乏透明的糾錯機制，就容易反覆出現「罵人」等異常輸出。這是治理失效的結果。 王篤然指出，這類「罵人」現象並不觸及中共統治安全，難以成為監管重點。中共監管更關注的是，信息封鎖與輿論控制，而非提升產品倫理標準與用戶體驗。在這種導向下，技術失序與治理缺位恐將長期並存。