AI助手整理論文摘要可靠嗎？

2023-08-10 09:39:46來源：人民郵電報(bào)

【資料圖】

據(jù)《自然》報(bào)道，近日，荷蘭出版業(yè)巨頭愛思唯爾向其Scopus數(shù)據(jù)庫的部分用戶發(fā)布了一個(gè)基于ChatGPT的AI界面。當(dāng)天，英國數(shù)字科學(xué)公司（Digital Science）也宣布為其Dimensions數(shù)據(jù)庫的AI大語言模型（LLM）進(jìn)行封閉試驗(yàn)。美國科睿唯安公司還試圖將LLM納入其Web of Science數(shù)據(jù)庫。

愛思唯爾作為試點(diǎn)推出了名為Scopus AI的聊天機(jī)器人。負(fù)責(zé)該工具開發(fā)的Maxim Khan說，作為一個(gè)輕便、有趣的工具，Scopus AI旨在幫助研究人員快速獲得不熟悉的研究主題的摘要，其使用LLM GPT-3.5版本可以獲得一段關(guān)于該研究主題的流暢總結(jié)、引用的參考文獻(xiàn)以及需要進(jìn)一步探索的問題。

但學(xué)者對(duì)大模型的擔(dān)憂是，它們輸出的內(nèi)容不一定可靠，可能包含事實(shí)錯(cuò)誤和偏見，甚至還會(huì)編造出不存在的參考文獻(xiàn)。

談及用戶是否會(huì)將AI生成內(nèi)容復(fù)制粘貼到論文中，從而對(duì)內(nèi)容進(jìn)行抄襲？Khan表示，這是有可能的。不過，愛思唯爾通過“指導(dǎo)意見”來解決這一問題，要求研究人員負(fù)責(zé)任地使用摘要。資助者和出版商也發(fā)布了類似的指導(dǎo)意見，要求公開透明地披露LLM是否用于撰寫論文或進(jìn)行同行評(píng)審，或者在某些情況下聲明不應(yīng)該使用LLM。

目前，Scopus AI僅向約1.5萬名用戶推送。愛思唯爾表示，該工具預(yù)計(jì)于2024年初全面開放。

Dimensions數(shù)據(jù)庫引入AI助手同樣只針對(duì)選定的測(cè)試者。在用戶輸入問題后，搜索引擎首先檢索相關(guān)文章，然后開放的GPT模型圍繞已檢索到的排名靠前的摘要生成摘要段落。Dimensions還使用LLM提供了相關(guān)論文的更多細(xì)節(jié)，包括研究結(jié)果的簡短總結(jié)。

數(shù)字科學(xué)公司首席產(chǎn)品官Christian Herzog說，公司希望在今年底前在更廣泛的范圍內(nèi)發(fā)布該工具，目前正在與科學(xué)家、資助者和其他使用Dimensions的人合作，測(cè)試LLM在哪些方面可能有用。他說：“這關(guān)乎逐漸適應(yīng)一項(xiàng)新技術(shù)并信任它。”　

標(biāo)簽：