瑞典布羅斯大學(xué)學(xué)院研究人員在一項(xiàng)最新研究中警告稱：無論是從社會知識層面，還是從公眾對科學(xué)的信任度來看，人工智能（AI）生成的研究都已構(gòu)成一種威脅。他們最近在文獻(xiàn)索引數(shù)據(jù)庫——谷歌學(xué)術(shù)平臺中發(fā)現(xiàn)了上百篇疑似由AI生成的文章。相關(guān)研究報(bào)告13日發(fā)表在哈佛肯尼迪學(xué)院《錯(cuò)誤信息評論》期刊上。
研究人員認(rèn)為，由AI生成的“垃圾科學(xué)”侵蝕學(xué)術(shù)平臺，意味著惡意行為者能以更低成本制造和傳播虛假科學(xué)，對社會和科研界來說都是一種危險(xiǎn)情況。
該研究發(fā)現(xiàn)，AI生成的研究帶來的主要擔(dān)憂之一，是證據(jù)篡改風(fēng)險(xiǎn)增加，即虛假研究可能被用于戰(zhàn)略操縱。此次發(fā)現(xiàn)，這些有問題的文章已經(jīng)傳播到網(wǎng)絡(luò)研究基礎(chǔ)設(shè)施的多個(gè)組成部分，滲透進(jìn)了各種檔案庫、社交媒體平臺以及其他相關(guān)網(wǎng)絡(luò)渠道。由于傳播速度很快，且在谷歌學(xué)術(shù)平臺處于公開狀態(tài)，即使文章被撤回，也有可能已經(jīng)傳播開來，造成潛在影響。
此外，AI生成的研究也給已經(jīng)壓力重重的同行評審系統(tǒng)帶來問題。AI生成的研究在搜索引擎數(shù)據(jù)庫中傳播，對參與在線研究的人員的信息素養(yǎng)提出了更高要求，否則，人們很有可能基于錯(cuò)誤的信息作出決策。這既是科學(xué)不端行為的問題，也是媒體和信息素養(yǎng)的問題。
研究人員強(qiáng)調(diào)，谷歌學(xué)術(shù)平臺并不等同于專業(yè)的學(xué)術(shù)數(shù)據(jù)庫。盡管它使用便捷、搜索迅速，但缺少必要的質(zhì)量保證流程。這一缺陷在普通的谷歌搜索結(jié)果中已顯現(xiàn)出問題，而當(dāng)涉及科學(xué)知識的普及與傳播時(shí)，這一問題則變得更為嚴(yán)峻和復(fù)雜。
瑞典布羅斯大學(xué)學(xué)院研究人員在一項(xiàng)最新研究中警告稱：無論是從社會知識層面，還是從公眾對科學(xué)的信任度來看，人工智能（AI）生成的研究都已構(gòu)成一種威脅。他們最近在文獻(xiàn)索引數(shù)據(jù)庫——谷歌學(xué)術(shù)平臺中發(fā)現(xiàn)了上百篇疑似由AI生成的文章。相關(guān)研究報(bào)告13日發(fā)表在哈佛肯尼迪學(xué)院《錯(cuò)誤信息評論》期刊上。
研究人員認(rèn)為，由AI生成的“垃圾科學(xué)”侵蝕學(xué)術(shù)平臺，意味著惡意行為者能以更低成本制造和傳播虛假科學(xué)，對社會和科研界來說都是一種危險(xiǎn)情況。
該研究發(fā)現(xiàn)，AI生成的研究帶來的主要擔(dān)憂之一，是證據(jù)篡改風(fēng)險(xiǎn)增加，即虛假研究可能被用于戰(zhàn)略操縱。此次發(fā)現(xiàn)，這些有問題的文章已經(jīng)傳播到網(wǎng)絡(luò)研究基礎(chǔ)設(shè)施的多個(gè)組成部分，滲透進(jìn)了各種檔案庫、社交媒體平臺以及其他相關(guān)網(wǎng)絡(luò)渠道。由于傳播速度很快，且在谷歌學(xué)術(shù)平臺處于公開狀態(tài)，即使文章被撤回，也有可能已經(jīng)傳播開來，造成潛在影響。
此外，AI生成的研究也給已經(jīng)壓力重重的同行評審系統(tǒng)帶來問題。AI生成的研究在搜索引擎數(shù)據(jù)庫中傳播，對參與在線研究的人員的信息素養(yǎng)提出了更高要求，否則，人們很有可能基于錯(cuò)誤的信息作出決策。這既是科學(xué)不端行為的問題，也是媒體和信息素養(yǎng)的問題。
研究人員強(qiáng)調(diào)，谷歌學(xué)術(shù)平臺并不等同于專業(yè)的學(xué)術(shù)數(shù)據(jù)庫。盡管它使用便捷、搜索迅速，但缺少必要的質(zhì)量保證流程。這一缺陷在普通的谷歌搜索結(jié)果中已顯現(xiàn)出問題，而當(dāng)涉及科學(xué)知識的普及與傳播時(shí)，這一問題則變得更為嚴(yán)峻和復(fù)雜。
本文鏈接：瑞典研究警告：AI生成的“垃圾科學(xué)”正侵蝕谷歌學(xué)術(shù)平臺http://m.lensthegame.com/show-2-10171-0.html
聲明：本網(wǎng)站為非營利性網(wǎng)站，本網(wǎng)頁內(nèi)容由互聯(lián)網(wǎng)博主自發(fā)貢獻(xiàn)，不代表本站觀點(diǎn)，本站不承擔(dān)任何法律責(zé)任，僅提供存儲服務(wù)。天上不會到餡餅，請大家謹(jǐn)防詐騙！若有侵權(quán)等問題請及時(shí)與本網(wǎng)聯(lián)系，我們將在第一時(shí)間刪除處理。
上一篇： 《全國青少年科技創(chuàng)新大賽實(shí)施辦法（試行）》發(fā)布 確保科技創(chuàng)新大賽更加公平誠信