有病問AI并不可靠 研究稱5款頭部AI半數(shù)醫(yī)學(xué)建議存誤導(dǎo)
- 來源:互聯(lián)網(wǎng)
- 作者:快科技
- 編輯:陶笛
身體不適時不少人喜歡先網(wǎng)上問問AI,但是據(jù)媒體報道,最新研究指出,AI聊天機(jī)器人在約一半情況下會提供存在問題的醫(yī)療建議。
近日,來自美國、加拿大和英國的研究團(tuán)隊對5款主流平臺ChatGPT、Gemini、Meta AI、Grok和DeepSeek進(jìn)行了測試。
他們圍繞五類健康主題提出10個問題,結(jié)果顯示,在全部回復(fù)中約50%存在問題,其中近20%被評估為嚴(yán)重問題。
研究發(fā)現(xiàn),這些模型在封閉式問題以及疫苗、癌癥等領(lǐng)域表現(xiàn)相對較好,但在開放式提問以及干細(xì)胞、營養(yǎng)等話題上表現(xiàn)明顯下滑。
同時,模型的回答通常語氣很確定,但缺乏可靠依據(jù),沒有任何一個模型能夠提供完整且準(zhǔn)確的參考來源。
目前,每周有超過2億用戶向ChatGPT咨詢健康相關(guān)問題,OpenAI還在1月推出面向普通用戶和醫(yī)療專業(yè)人士的健康工具。
同月,Anthropic也宣布,將為Claude引入醫(yī)療服務(wù)能力。
研究作者警告,在缺乏公眾教育和監(jiān)管的情況下,大規(guī)模部署AI聊天機(jī)器人可能加劇錯誤信息傳播。



玩家點評 (0人參與,0條評論)
熱門評論
全部評論