越来越多的澳大利亚人转向聊天机器人寻求心理健康咨询，这引发了专业人士对虚假信息、隐私以及人类治疗师职业的严重担忧。

悉尼临床心理治疗师斯默林（Adam Szmerling）表示，在依赖人工智能进行心理健康指导的患者中，他目睹了一些令人担忧的案例。

他在社交媒体上的一段视频中表示，人工智能可以创造“回音室效应”，强化负面观念而不是挑战它们，在某些极端情况下，人工智能还会导致危险行为。“报道称，人工智能指导某人谋杀，”斯默林说。

他警告用户切勿与公共人工智能工具分享个人信息，提醒人们要“假设任何输入人工智能系统的信息都会被公开”。

斯默林表示，人工智能如果被滥用会加剧焦虑，但如果谨慎使用并受到专业监督，它也能促进心理健康。他观察到一个悖论：“对人工智能最焦虑的人往往是使用人工智能最多的人。”“这种恐惧源于不确定性，对未知事物进行最坏的想象是人类的天性。”

斯默林建议那些对人工智能感到焦虑的人，要像对待其他恐惧一样对待它。“了解它，安全地使用它，你就会开始看到它的局限性，这会提醒你人类的同理心和直觉是多么宝贵。”

他补充说，人工智能可以在治疗期间充当“对话伙伴”，提供一些简单的练习，帮助患者反思、感恩和重构思维。

一项发表在《精神健康杂志》(JMIR Mental Health)上的研究探讨了有多少澳大利亚人在使用人工智能进行情感支持，并强调了其益处和风险。

该研究的主要作者、Orygen Digital数字服务转型总监克洛斯（Shane Cross）副教授表示，人工智能可以通过提供便捷、个性化和高效的支持来帮助填补心理健康服务的空白。

然而，他敦促谨慎行事，“我们必须认真对待隐私、道德以及人工智能生成的建议的质量问题，以确保其对弱势用户的安全。”

克洛斯说，虽然像 ChatGPT 这样的商业人工智能工具很有吸引力，但它们从未被设计用于治疗用途，在没有指导的情况下使用它们可能会有风险。

该研究调查了 107 名社区成员和 86 名心理健康专业人士，结果显示，尽管人们对人工智能在心理健康领域的态度普遍积极，但专家们一致认为，人工监督仍然至关重要。