悉尼大學（University of Sydney）的研究人員發現了一項數學原理，可解釋為何人工智慧系統即使在幾乎完全相同的條件下接受訓練，仍可能學會不同的行為模式。這項發現有望幫助提升人工智慧技術的可靠性與可信度。

悉尼大學官網11月6日指出，該研究由悉尼大學物理學院（School of Physics）的普林・龔（Pulin Gong）教授及其博士生安德魯・李（Andrew Ly）共同完成，並發表於人工智慧研究領域全球領先的期刊《自然機器智能》（Nature Machine Intelligence）。

人工智慧系統日益廣泛地應用於醫療保健、商業、研究及日常生活，如何確保這些系統的行為一致且可預測，已成為一項重大挑戰。新研究指出，某些形式的人工智慧不可預測性，並非源於工程缺陷或電腦硬體的不一致，而是來自神經網路學習方式背後的基本數學原理。

龔教授說：「研究人員過去經常將人工智慧行為的差異歸因於外部隨機因素，例如訓練資料的呈現順序，或硬體引入的微小數值變化。」「我們的研究結果指出了更深層的原因。即使排除了這些因素，模型初始條件中極其微小的差異，仍可能導致不同的結果。」

神經網路是當今最先進人工智慧系統背後的核心技術。它們在訓練過程中，透過調整數百萬甚至數十億個內部參數來學習。悉尼大學的研究團隊探討了為何神經網路有時會在使用相同資料、相同訓練程序及確定性運算環境的情況下，仍得出不同的解決方案。

安德魯說：「試想有兩套人工智慧系統，使用相同的醫療影像及相同的訓練程序來訓練，以偵測癌症。它們初始參數中的微小差異，可能導致它們學會不同的行為模式。我們的研究有助於解釋這些差異如何產生，也可能為制定方法提供參考，使這些系統的表現更加一致。」

了解這些差異的來源，有助於指導設計更可靠的系統，並降低開發大型模型涉及的成本與不確定性。