令人不安的新趨勢正在出現——AI 聊天機器人對兒童霸凌，甚至鼓勵他們結束自己的生命，讓澳洲政府深感憂慮。
聯邦教育部長 Jason Clare 表示，AI正在加速霸凌行為的發生。
「現在是 AI 聊天機器人在霸凌孩子。不是孩子霸凌孩子，而是 AI 在霸凌孩子，羞辱他們、傷害他們，告訴他們自己是失敗者……甚至叫他們去自殺。我想不出還有什麼比這更可怕的事。」Clare 表示。
其他國家對青少年使用 AI 也日益擔憂。據《衛報》報導，在美國加州，16 歲少年 Adam Raine 的父母起訴OpenAI（ChatGPT平台背後的公司），指控該系統曾鼓勵他們的兒子自殺。
在 Raine 家族提出訴訟後，OpenAI發表聲明，承認其模型在面對有「嚴重心理與情緒困擾」的人時存在不足，並表示正致力於改進系統，以更有效地「辨識並回應心理與情緒困擾的跡象，並在專家指導下協助用戶聯繫可以關照用戶的人」。
「想到竟然會有一個 App 告訴你去自殺，而海外真的有孩子做這樣的事，讓我感到非常恐懼。」Clare 說。他並未點名任何特定的 AI 聊天機器人。
去年10月，澳洲政府宣布一系列新的反霸凌措施，要求學校必須在 48 小時內處理霸凌事件，以及為教師提供專業培訓。
