在封禁16岁以下用户使用社交媒体数周后，澳大利亚又发起了一场新的网络安全打击行动，目标是人工智能聊天机器人。

随着人工智能行业的快速发展，许多青少年在日常生活中越来越依赖这项技术。人们越来越担心，随着手机上社交媒体的消失，孩子们可能会开始过度依赖人工智能，尤其是聊天机器人。

“我们知道孩子们已经在使用人工智能工具，无论是与 ChatGPT 对话，还是使用一些旨在与人交朋友的程序，”人机信息环境中心主任吉文（ Lisa Given ）教授说道。“我们知道，有些人很容易被这些系统与我们互动的方式所吸引。”

“这些系统经过训练，能够以非常人性化的方式做出回应，这意味着人们可能会被迷惑，误以为机器里住着一个人，或者机器在倾听并理解你所说的话。”

澳大利亚最近出台了针对人工智能机器人的新限制措施，限制它们可以向青少年提供的内容类型。

“我们是世界上唯一一个将要规范人工智能聊天机器人和人工智能伙伴的国家，”澳大利亚网络安全专员朱莉·英曼·格兰特 (Julie Inman Grant) 在 12 月份接受 9News 采访时表示。“它们将被禁止向 18 岁以下的未成年人提供任何色情、露骨的性内容、自残、自杀倾向或饮食失调的内容。”

吉文表示，聊天机器人对弱势群体来说很危险。“我们在世界各地都看到，有些人会听从这些系统的建议，”她说。“所以，如果一个系统告诉你，‘这真是个好主意，你应该全力以赴’，这会让我们自我感觉良好，觉得有人在倾听我们的想法。”

“但我们也看到，有时这种情况会走向非常糟糕的境地，尤其当人们开始对系统说，‘我真的很沮丧’、‘我感觉很糟糕’或者‘我在考虑自杀’的时候。”

“我们发现，有些应用程序的回应方式实际上是在鼓励这种想法，而不是试图引导他们寻求帮助。”

“这意味着那些非常脆弱、本身就处于危险之中的人，可能会被这些电脑程序拖入深渊。”

吉文认为，为了保护所有人，而不仅仅是青少年，应该进一步加强限制。但她也承认，任何此类监管措施都难以实施。

“这些系统不仅仅对儿童有害，”她说。“有证据表明，成年人也会沉迷于这些系统，对于任何特别脆弱或已有心理健康问题的人来说，这都是一个巨大的隐患。”