澳洲专家警告:不要向ChatGPT寻求医疗建议

《悉尼晨锋报》报道,研究员发现,ChatGPT在被要求给出“是”或“否”的答案时比较准确,但当需要给出“怎么做”等更多回答时会变得不可靠。

如果去问医生是否要使用冰块治疗烧伤,他们会说用冷水冲洗。

如果问谷歌,会告诉你,极寒会收缩血管,使烧伤恶化。

但如果问ChatGPT,聊天会称,只要用毛巾裹着,用冰块也是可以的。

chatGPT官网截图
chatGPT官网截图

澳洲联邦科学与工业研究组织(CSIRO)首席研究科学家、昆士兰大学副教授Bevan Koopman表示,有充分的证据表明在网上寻求健康信息存在隐患,但人们还是越来越多使用ChatGPT等工具获取医疗建议。

“大家并没有真正了解它们的性能如何,以及怎样最好地部署它们。归根结底,你想要的是可靠的医疗建议,而这些模型根本不适合做诊断之类的事情”。

这项研究显示,当被要求给出是或否的答案时,ChatGPT给出的80%的回答是正确的。但如果是要提供佐证时,准确率会下降到63%。如果允许回答“不确定”,则准确率就会下降到28%。

文章来源:CityDiscount都市折扣

关注时事,订阅新闻邮件
本订阅可随时取消

评论被关闭。