禁令

英国政府2月1日宣布，将成为全球首个立法禁止使用人工智能(AI)工具，制作儿童性虐待影像的国家。内政大臣古柏(Yvette Cooper)表示，将立法严惩持有、制作或散布用于生成儿童性影像的AI工具，违者最高可处5年徒刑。 英国政府表示，有不肖人士正利用AI工具，将真实儿童照片“裸体化”，或将儿童的脸部“拼接”到既有的色情影像上，借此制造儿童性虐待影像。 此外，新法也将严惩“经营网站供其他恋童癖者分享，令人发指的儿童性虐待内容，或提供诱拐儿童建议的网络掠夺者”，最高刑期可达10年。上述措施将纳入《犯罪与警务法案》(Crime and Policing Bill)，提交英国国会审议。 法新社援引英国内政大臣古柏的话说，拥有人工智能“恋童手册”也是非法的，这些手册指导人们如何使用人工智能对儿童进行性虐待，最高可判处3年监禁。 路透社在报道中表示，处理、拍摄、制作、展示和传播露骨儿童影像在英格兰和威尔士本来就是犯罪。而新的法律所禁止的则是利用人工智能工具让真实的儿童影像“裸体化”。 随着人工智能技术和工具的进步和普及化，网络上的犯罪分子越来越多地使用人工智能工具生成制作儿童色情和性虐待影像。路透社援引英国互联网观察基金会(Internet Watch Foundation， IWF)的数据显示，此类色情影像仅在2024年一年之中就翻了将近五番。根据IWF的数据，光是在2024年的30天内，分析师就在一个暗网网站上，发现了3512张AI产生的儿童性虐待影像。 最严重类别的影像数量，在一年内上升了10%。 英国政府指出，犯罪分子也会运用人工智能工具伪装他们自己的真实身份，以直播虚假影像等方式恐吓勒索儿童，逼迫他们经受更严重的性虐待。 古柏也因此强调说：“我们知道，这些网络性犯罪者在网络上的行为，往往会导致他们在现实生活中犯下儿童性侵害的罪行。”她表示，随着科技发展，新法旨在保护儿童免受新型态的网络性剥削。