社群媒體平台 X 旗下人工智慧（AI）聊天機器人 Grok，近日被發現可透過簡單文字指令生成並分享女性及兒童不雅的深偽影像，引發國際社會強烈關注。英國通訊管理局 Ofcom 12日宣布，已就此對X正式啟動調查。
Ofcom在聲明中形容相關報導「令人極其擔憂」，指出裸露人體影像可能構成親密影像濫用或色情內容，而涉及兒童的色情化影像更可能成為兒童性剝削的素材，觸及嚴重違法風險。監管機構強調，平台營運方有法定義務，必須採取有效措施防止此類內容擴散，並保護用戶免於傷害。
Ofcom表示，已於1月5日聯絡X，要求說明其在英國採取了哪些具體保護措施。儘管監管機構未披露雙方溝通細節，但確認X已在規定期限內作出回應。
面對外界質疑，Grok於1月9日在X平台回應稱，xAI已限制Grok的影像生成與編輯功能，僅開放給付費訂閱用戶使用。
不過，英國首相斯塔默(Keir Starmer)辦公室對此並不買帳，直言該措施是對受害者的「侮辱」，且「絕非解決辦法」，強調平台應從源頭防堵不當內容生成，而非僅以收費機制應對。
在英國展開調查之際，部分國家已採取更強硬行動。馬來西亞與印尼近日相繼封鎖Grok服務，成為全球首批限制該AI工具的國家，理由是其被用於生成未經同意、色情露骨的影像內容。與此同時，歐洲聯盟、印度及法國等地的監管機構，也正加強對Grok及相關AI生成內容的審查。
