chatgpt文獻(xiàn)鏈接 ChatGPT引用的參考文獻(xiàn)竟然是假的？

Day. (2023). A of Fake Peer- and by . The , DOI:10.1080/.2023.

01

引言

是一個使用自然語言來回答問題的人工智能聊天機(jī)器人，自2022年11月試運(yùn)行以來，它對社會與學(xué)界造成的影響已經(jīng)不可小覷，而圍繞這項(xiàng)技術(shù)的擔(dān)憂和質(zhì)疑也隨之出現(xiàn)。

2023年2月，我使用（）查詢有關(guān)自然地理和地理教育方面的信息，一些搜索結(jié)果里出現(xiàn)了聞所未聞的參考文獻(xiàn)。經(jīng)檢查發(fā)現(xiàn)，這些文獻(xiàn)既沒有出現(xiàn)在所列的來源刊物中，也沒有存在于其他期刊。鑒于此，我們對所引用參考文獻(xiàn)的真實(shí)性進(jìn)行了更為系統(tǒng)的調(diào)查，雖然調(diào)查依然比較粗淺，但已經(jīng)發(fā)現(xiàn)了不少問題。

02

研究設(shè)計(jì)

為了測試引用的參考文獻(xiàn)的真實(shí)性，我們進(jìn)行了一次系統(tǒng)性調(diào)查。受The 上最近發(fā)表的五篇論文的啟發(fā)，我們向提出了一些問題，這些問題包括：婦女、少數(shù)民族和殘疾人的地理基礎(chǔ)教育參與（ 2023）、向美國西部移民的原因（ and 2023）、中國的人口增長（Shi et al. 2023）、數(shù)字地圖的應(yīng)用（ and 2023）等。選擇這些問題其實(shí)并沒有什么特定依據(jù)，它們只是地理學(xué)家所關(guān)注的一些有代表性的問題樣本。我們對提供的參考文獻(xiàn)進(jìn)行了嚴(yán)格檢查，核實(shí)期刊名稱、卷號、期號以及頁碼中是否存在錯誤。

03

結(jié)果

很不幸chatgpt文獻(xiàn)鏈接，的回答竟然全軍覆沒，無一例外。具體情況請看下表。

04

討論

這些所謂的參考文獻(xiàn)都是英文的，而且“出自”備受推崇的權(quán)威期刊上，頁碼也符合期刊的實(shí)際情況，似乎很規(guī)范，乍一看確實(shí)容易把人唬住。然而，當(dāng)查閱所列期刊及其頁碼時(shí)，會發(fā)現(xiàn)該頁文獻(xiàn)與所引用的文獻(xiàn)毫無關(guān)聯(lián)。

列出的許多作者都是在該領(lǐng)域享有很高名譽(yù)的行家，但這些作者壓根兒就并沒有發(fā)表過引用的這些文獻(xiàn)。

這些文獻(xiàn)的來源刊物是真實(shí)存在的，甚至主題也一致，這進(jìn)一步加強(qiáng)了欺騙性。比如，在回答地理教育相關(guān)問題時(shí)引用的期刊主要來自 of 、the of in ，而這兩本期刊確實(shí)是地理教育領(lǐng)域的旗艦刊物。

研究過程中使用必須受到嚴(yán)重質(zhì)疑。任何對甚至是“共同作者”身份的承認(rèn)都應(yīng)當(dāng)提醒編輯們這篇文章可能存在不少潛在問題。如果沒有對提供的相關(guān)信息加以核實(shí)，文章可能會出現(xiàn)多個假參考文獻(xiàn)，這意味著作者可能存在學(xué)術(shù)不端行為。同行評議和編輯過程現(xiàn)在變得復(fù)雜起來，不僅需要檢查參考文獻(xiàn)的格式，還應(yīng)檢查它們的真實(shí)性，這讓人不免對前段時(shí)間的一個設(shè)想開始心生懷疑，即“對于正在趕進(jìn)度的博士生、需要快速進(jìn)行文獻(xiàn)回顧的研究者以及極其忙碌的審稿人，可以使用AI聊天機(jī)器人來協(xié)助快速完成任務(wù)”。

從學(xué)生學(xué)術(shù)誠信的角度來看，虛假參考文獻(xiàn)的存在為檢查學(xué)術(shù)不端行為提供了一個有用的工具。當(dāng)然，這也給學(xué)生作業(yè)的評價(jià)與檢查帶來了額外負(fù)擔(dān)。我們可以要求學(xué)生提供所引用文獻(xiàn)的DOI號，如果點(diǎn)擊該鏈接后論文沒有出現(xiàn)，那么該論文很有可能是假的，或者至少需要進(jìn)一步檢查。

作為內(nèi)容策劃者的教師或許可以使用AI聊天機(jī)器人來協(xié)助快速編寫不需要參考資料的入門課程教學(xué)材料。例如，我們開始用它來編寫自然地理學(xué)基礎(chǔ)、水文學(xué)、地圖學(xué)、地理信息系統(tǒng)和遙感等課程的教學(xué)材料。盡管無法制作地圖或圖表chatgpt文獻(xiàn)鏈接，但我們發(fā)現(xiàn)，在一兩天內(nèi)為學(xué)生制作1-1.5萬字的高質(zhì)量書面材料是有可能的。這種方法可能對開放式學(xué)習(xí)有很大的幫助，并且有可能影響目前的教科書出版模式。

當(dāng)然，使用來編寫課程材料也是有局限性的。我們曾在新興經(jīng)濟(jì)體自然地理課程中嘗試使用它，但效果大打折扣。由于該課程過于依賴研究論文，這導(dǎo)致在假論文之外，產(chǎn)生的主題內(nèi)容本身也有不少錯誤。不過，即使在這種情況下chatgpt文獻(xiàn)鏈接，的回答也起到了提示思路的作用。中的錯誤信息也不是毫無價(jià)值，我們也曾在水文學(xué)課程中使用中的錯誤信息作為期中測試題的材料，學(xué)生們被要求找出段落中的錯誤。考試后與學(xué)生進(jìn)行的非正式討論表明，他們能夠更深刻地理解這些問題。

05

結(jié)論

很明顯，引用的參考文獻(xiàn)是假的。雖然該文的研究材料集中在地理學(xué)方面，但假文獻(xiàn)并不會僅僅局限于某個特定的學(xué)科主題，問題根源其實(shí)是人工智能算法。因此，研究結(jié)果具有廣泛的適用性。

虛假參考文獻(xiàn)的產(chǎn)生也不禁讓人質(zhì)疑回答內(nèi)容本身的真實(shí)性。AI聊天機(jī)器人可能會不斷完善優(yōu)化，但最初的狂熱喧嘩應(yīng)當(dāng)轉(zhuǎn)為更加謹(jǐn)慎理智的態(tài)度來管控AI聊天機(jī)器人技術(shù)在教學(xué)和研究中的應(yīng)用。這項(xiàng)技術(shù)不太可能因?yàn)樘摷傥墨I(xiàn)問題而停滯不前，AI聊天機(jī)器人在未來教育中仍然值得期待。它依然可以作為一種有力工具，而前提是我們要有足夠的專業(yè)知識儲備從而能夠研判、甄別有關(guān)信息。

文字 |準(zhǔn)靜止鋒

校對 | 五山鄧肯

編輯 | 奈斯瑞

往期 · 推薦

免責(zé)聲明：本文系轉(zhuǎn)載，版權(quán)歸原作者所有；旨在傳遞信息，不代表本站的觀點(diǎn)和立場和對其真實(shí)性負(fù)責(zé)。如需轉(zhuǎn)載，請聯(lián)系原作者。如果來源標(biāo)注有誤或侵犯了您的合法權(quán)益或者其他問題不想在本站發(fā)布，來信即刪。