用AI查詢癌癥相關問題,ChatGPT的回答靠得住嗎?
最近進行的一項研究發現,AI聊天機器人ChatGPT為人們對癌癥常見一些的誤解和誤區提供了97%的正確答案,但由于其間接的或可能令人困惑的語言描述引起了人們的擔憂,研究人員建議患者在使用聊天機器人獲取癌癥信息時需要小心謹慎。
發表在《美國國家癌癥研究所》雜志上的一項研究報告深入探討了聊天機器人和AI在提供癌癥相關信息方面的應用。研究人員發現,這些數字資源準確地揭穿了關于癌癥常見的一些誤區和誤解。這項開創性的研究是由美國亨茨曼癌癥研究所物理學家、猶他大學放射腫瘤學系助理教授、醫學博士Skyler Johnson領導一個研究團隊進行的,其目的是評估ChatGPT提供癌癥信息的可靠性和準確性。
Johnson和他的團隊使用美國國家癌癥研究所(NCI)列出的常見的癌癥誤區和誤解作為訓練數據。他們發現,ChatGPT提供的答案準確率達到97%。然而,這個結果也伴隨著令人關注的警告。研究團隊主要擔憂的一個問題是,ChatGPT提供的一些答案可能會被患者誤解或誤讀。
Johnson說:“這可能會導致癌癥患者做出一些錯誤的決定。”該團隊因此建議患者在是否使用聊天機器人獲取癌癥信息時需要小心謹慎。
研究發現,由于審稿者進行盲審,這意味著他們不知道其答案是來自聊天機器人還是美國國家癌癥研究所(NCI),雖然大多數答案是準確的,但審稿者發現ChatGPT提供的答案是間接的或模糊的,在某些情況下甚至是錯誤的。
Johnson說:“我認識到并理解癌癥患者和醫護人員獲取準確信息的困難。需要對這些來源進行研究,以便我們能夠幫助癌癥患者在網上信息環境中摸索出診斷結果的答案。”
而錯誤的信息會傷害癌癥患者。Johnson和他的團隊在之前發表在《國家癌癥研究所雜志》上的一項研究報告指出,他們發現社交媒體上的錯誤信息很常見,并且有可能危害癌癥患者。
接下來的研究工作是評估患者使用聊天機器人獲取癌癥信息的頻率,他們問的是什么問題,以及AI聊天機器人是否能提供有關癌癥的罕見或不尋常問題的準確答案。