悉尼大学（University of Sydney）的研究人员发现了一项数学原理，可解释为何人工智能系统即使在几乎完全相同的条件下接受训练，仍可能学会不同的行为模式。这项发现有望帮助提升人工智能技术的可靠性与可信度。

悉尼大学官网11月6日指出，该研究由悉尼大学物理学院（School of Physics）的普林・龚（Pulin Gong）教授及其博士生安德鲁・李（Andrew Ly）共同完成，并发表于人工智能研究领域全球领先的期刊《自然机器智能》（Nature Machine Intelligence）。

人工智能系统日益广泛地应用于医疗保健、商业、研究及日常生活，如何确保这些系统的行为一致且可预测，已成为一项重大挑战。新研究指出，某些形式的人工智能不可预测性，并非源于工程缺陷或电脑硬体的不一致，而是来自神经网络学习方式背后的基本数学原理。

龚教授说：「研究人员过去经常将人工智能行为的差异归因于外部随机因素，例如训练资料的呈现顺序，或硬体引入的微小数值变化。」「我们的研究结果指出了更深层的原因。即使排除了这些因素，模型初始条件中极其微小的差异，仍可能导致不同的结果。」

神经网络是当今最先进人工智能系统背后的核心技术。它们在训练过程中，透过调整数百万甚至数十亿个内部参数来学习。悉尼大学的研究团队探讨了为何神经网络有时会在使用相同资料、相同训练程序及确定性运算环境的情况下，仍得出不同的解决方案。

安德鲁说：「试想有两套人工智能系统，使用相同的医疗影像及相同的训练程序来训练，以侦测癌症。它们初始参数中的微小差异，可能导致它们学会不同的行为模式。我们的研究有助于解释这些差异如何产生，也可能为制定方法提供参考，使这些系统的表现更加一致。」

了解这些差异的来源，有助于指导设计更可靠的系统，并降低开发大型模型涉及的成本与不确定性。