社群媒体平台 X 旗下人工智慧（AI）聊天机器人 Grok，近日被发现可透过简单文字指令生成并分享女性及儿童不雅的深伪影像，引发国际社会强烈关注。英国通讯管理局 Ofcom 12日宣布，已就此对X正式启动调查。
Ofcom在声明中形容相关报导“令人极其担忧”，指出裸露人体影像可能构成亲密影像滥用或色情内容，而涉及儿童的色情化影像更可能成为儿童性剥削的素材，触及严重违法风险。监管机构强调，平台营运方有法定义务，必须采取有效措施防止此类内容扩散，并保护用户免于伤害。
Ofcom表示，已于1月5日联络X，要求说明其在英国采取了哪些具体保护措施。尽管监管机构未披露双方沟通细节，但确认X已在规定期限内作出回应。
面对外界质疑，Grok于1月9日在X平台回应称，xAI已限制Grok的影像生成与编辑功能，仅开放给付费订阅用户使用。
不过，英国首相斯塔默(Keir Starmer)办公室对此并不买帐，直言该措施是对受害者的“侮辱”，且“绝非解决办法”，强调平台应从源头防堵不当内容生成，而非仅以收费机制应对。
在英国展开调查之际，部分国家已采取更强硬行动。马来西亚与印尼近日相继封锁Grok服务，成为全球首批限制该AI工具的国家，理由是其被用于生成未经同意、色情露骨的影像内容。与此同时，欧洲联盟、印度及法国等地的监管机构，也正加强对Grok及相关AI生成内容的审查。
