禁令

英國政府2月1日宣布，將成為全球首個立法禁止使用人工智慧(AI)工具，製作兒童性虐待影像的國家。內政大臣古柏(Yvette Cooper)表示，將立法嚴懲持有、製作或散布用於生成兒童性影像的AI工具，違者最高可處5年徒刑。 英國政府表示，有不肖人士正利用AI工具，將真實兒童照片「裸體化」，或將兒童的臉部「拼接」到既有的色情影像上，藉此製造兒童性虐待影像。 此外，新法也將嚴懲「經營網站供其他戀童癖者分享，令人髮指的兒童性虐待內容，或提供誘拐兒童建議的網路掠奪者」，最高刑期可達10年。上述措施將納入《犯罪與警務法案》(Crime and Policing Bill)，提交英國國會審議。 法新社援引英國內政大臣古柏的話說，擁有人工智慧「戀童手冊」也是非法的，這些手冊指導人們如何使用人工智慧對兒童進行性虐待，最高可判處3年監禁。 路透社在報道中表示，處理、拍攝、製作、展示和傳播露骨兒童影像在英格蘭和威爾士本來就是犯罪。而新的法律所禁止的則是利用人工智慧工具讓真實的兒童影像「裸體化」。 隨著人工智慧技術和工具的進步和普及化，網路上的犯罪分子越來越多地使用人工智慧工具生成製作兒童色情和性虐待影像。路透社援引英國互聯網觀察基金會(Internet Watch Foundation， IWF)的數據顯示，此類色情影像僅在2024年一年之中就翻了將近五番。根據IWF的數據，光是在2024年的30天內，分析師就在一個暗網網站上，發現了3512張AI產生的兒童性虐待影像。 最嚴重類別的影像數量，在一年內上升了10%。 英國政府指出，犯罪分子也會運用人工智慧工具偽裝他們自己的真實身份，以直播虛假影像等方式恐嚇勒索兒童，逼迫他們經受更嚴重的性虐待。 古柏也因此強調說：「我們知道，這些網路性犯罪者在網路上的行為，往往會導致他們在現實生活中犯下兒童性侵害的罪行。」她表示，隨著科技發展，新法旨在保護兒童免受新型態的網路性剝削。