令人不安的新趋势正在出现——AI 聊天机器人对儿童霸凌，甚至鼓励他们结束自己的生命，让澳洲政府深感忧虑。
联邦教育部长 Jason Clare 表示，AI正在加速霸凌行为的发生。
「现在是 AI 聊天机器人在霸凌孩子。不是孩子霸凌孩子，而是 AI 在霸凌孩子，羞辱他们、伤害他们，告诉他们自己是失败者……甚至叫他们去自杀。我想不出还有什么比这更可怕的事。」Clare 表示。
其他国家对青少年使用 AI 也日益担忧。据《卫报》报导，在美国加州，16 岁少年 Adam Raine 的父母起诉OpenAI（ChatGPT平台背后的公司），指控该系统曾鼓励他们的儿子自杀。
在 Raine 家族提出诉讼后，OpenAI发表声明，承认其模型在面对有「严重心理与情绪困扰」的人时存在不足，并表示正致力于改进系统，以更有效地「辨识并回应心理与情绪困扰的迹象，并在专家指导下协助用户联系可以关照用户的人」。
「想到竟然会有一个 App 告诉你去自杀，而海外真的有孩子做这样的事，让我感到非常恐惧。」Clare 说。他并未点名任何特定的 AI 聊天机器人。
去年10月，澳洲政府宣布一系列新的反霸凌措施，要求学校必须在 48 小时内处理霸凌事件，以及为教师提供专业培训。
