越來越多的澳大利亞人轉向聊天機器人尋求心理健康諮詢，這引發了專業人士對虛假信息、隱私以及人類治療師職業的嚴重擔憂。

悉尼臨床心理治療師斯默林（Adam Szmerling）表示，在依賴人工智慧進行心理健康指導的患者中，他目睹了一些令人擔憂的案例。

他在社交媒體上的一段視頻中表示，人工智慧可以創造「迴音室效應」，強化負面觀念而不是挑戰它們，在某些極端情況下，人工智慧還會導致危險行為。「報道稱，人工智慧指導某人謀殺，」斯默林說。

他警告用戶切勿與公共人工智慧工具分享個人信息，提醒人們要「假設任何輸入人工智慧系統的信息都會被公開」。

斯默林表示，人工智慧如果被濫用會加劇焦慮，但如果謹慎使用並受到專業監督，它也能促進心理健康。他觀察到一個悖論：「對人工智慧最焦慮的人往往是使用人工智慧最多的人。」「這種恐懼源於不確定性，對未知事物進行最壞的想像是人類的天性。」

斯默林建議那些對人工智慧感到焦慮的人，要像對待其他恐懼一樣對待它。「了解它，安全地使用它，你就會開始看到它的局限性，這會提醒你人類的同理心和直覺是多麼寶貴。」

他補充說，人工智慧可以在治療期間充當「對話夥伴」，提供一些簡單的練習，幫助患者反思、感恩和重構思維。

一項發表在《精神健康雜誌》(JMIR Mental Health)上的研究探討了有多少澳大利亞人在使用人工智慧進行情感支持，並強調了其益處和風險。

該研究的主要作者、Orygen Digital數字服務轉型總監克洛斯（Shane Cross）副教授表示，人工智慧可以通過提供便捷、個性化和高效的支持來幫助填補心理健康服務的空白。

然而，他敦促謹慎行事，「我們必須認真對待隱私、道德以及人工智慧生成的建議的質量問題，以確保其對弱勢用戶的安全。」

克洛斯說，雖然像 ChatGPT 這樣的商業人工智慧工具很有吸引力，但它們從未被設計用於治療用途，在沒有指導的情況下使用它們可能會有風險。

該研究調查了 107 名社區成員和 86 名心理健康專業人士，結果顯示，儘管人們對人工智慧在心理健康領域的態度普遍積極，但專家們一致認為，人工監督仍然至關重要。