千問測試新功能 讓AI自行打假不再一本正經(jīng)胡說
- 來源:互聯(lián)網(wǎng)
- 作者:快科技
- 編輯:陶笛
日前阿里千問上線了一項“引證”新功能,可對新聞時事、政策動態(tài)等需要引用外部信源的回答內(nèi)容,進(jìn)行二次事實核查,目前該功能處于測試階段。
實際測試中,引證按鈕并非始終顯示,僅當(dāng)用戶提問涉及新聞時事、政策動態(tài)等需要參考網(wǎng)絡(luò)信息的問題時,回答末尾才會出現(xiàn)該入口。
點(diǎn)擊后系統(tǒng)將自動進(jìn)入核查模式,對回答中的關(guān)鍵信息進(jìn)行智能標(biāo)注:有可靠、可交叉驗證的權(quán)威信源支持的內(nèi)容以綠色高亮顯示。
信息來源模糊、存在矛盾或尚未被主流媒體證實的內(nèi)容則標(biāo)記為紅色,并提示需進(jìn)一步核查。
以“2026年新能源汽車補(bǔ)貼還有嗎”為例,點(diǎn)擊引證后,千問會用紅綠色區(qū)分顯示回答內(nèi)容,并提醒其中“減免標(biāo)準(zhǔn)”等部分還需查找更多可信源進(jìn)一步核實。
進(jìn)一步點(diǎn)擊相關(guān)條目后,千問會優(yōu)先檢索財政部、國家稅務(wù)總局等官方數(shù)據(jù)源,逐一驗證關(guān)鍵數(shù)據(jù),最終返回整體屬實等判定結(jié)果,并附上具體文件鏈接與摘要。
業(yè)內(nèi)專家指出,當(dāng)前主流AI在生成回答時主要基于對海量網(wǎng)絡(luò)信息的理解與整合,核心優(yōu)勢在于高效組織和表達(dá)已有知識,但受限于技術(shù)架構(gòu),通常不具備主動驗證外部信息真?zhèn)蔚哪芰Α?
而千問測試引證功能,或為主流AI應(yīng)用中首個內(nèi)置回答內(nèi)容事實復(fù)核機(jī)制的嘗試,在保留高效響應(yīng)優(yōu)勢的同時引入可信度驗證,提升AI在新聞資訊類場景中的回答可靠性。



玩家點(diǎn)評 (0人參與,0條評論)
熱門評論
全部評論