南方財(cái)經(jīng)全媒體記者 袁思杰 香港報(bào)道
近年來，全球人工智能市場(chǎng)規(guī)模正加速擴(kuò)張。國(guó)際數(shù)據(jù)公司（IDC）報(bào)告顯示，2022年全球人工智能IT總投資規(guī)模有望在2027年增至5,124.2億美元，年復(fù)合增長(zhǎng)率（CAGR）為31.1%。
與此同時(shí)，目前通用人工智能（AGI，Artificial General Intelligence）的研究仍在探索階段，人類尚未實(shí)現(xiàn)真正的AGI，即能夠像人類一樣在多種領(lǐng)域和任務(wù)中具備學(xué)習(xí)、推理、規(guī)劃、創(chuàng)造力和情感理解等能力的智能系統(tǒng)。與現(xiàn)有的弱人工智能（ANI）不同，AGI的目標(biāo)是實(shí)現(xiàn)通用的認(rèn)知能力，而不僅僅是針對(duì)特定任務(wù)的優(yōu)化。
近日，國(guó)際知名人工智能專家斯圖爾特·羅素接受了南方財(cái)經(jīng)全媒體記者專訪，他指出，僅靠不斷搭建和疊加大語言模型 (LLMs)無法實(shí)現(xiàn)通用人工智能 (AGI)，而人類需要不僅是比自身更智能的系統(tǒng)，還需要確保是對(duì)自身安全和有益的。
在此前的多次演講中，羅素曾多次表示ChatGPT和GPT-4并不理解世界，也沒有在“回答”問題，“如果說通用人工智能是一件完整的拼圖，大語言模型僅僅只是其中的一塊，但我們并不真正了解如何將它與拼圖的其他部分連接起來，以真正實(shí)現(xiàn)通用人工智能。”
斯圖爾特·羅素（Stuart Russell）是人工智能領(lǐng)域的著名學(xué)者，現(xiàn)任加州大學(xué)伯克利分校電氣工程與計(jì)算機(jī)科學(xué)系教授、世界經(jīng)濟(jì)論壇人工智能理事會(huì)聯(lián)席主席。作為人工智能、機(jī)械人和機(jī)器學(xué)習(xí)領(lǐng)域的先驅(qū)，斯圖爾特·羅素撰寫了人工智能領(lǐng)域的經(jīng)典教材《人工智能－現(xiàn)代方法》，這部權(quán)威著作已被翻譯成 14 種語言，在超過 130 個(gè)國(guó)家的 1500 多所大學(xué)中被使用。
2024年3月，羅素曾和特斯拉CEO埃隆·馬斯克、“AI教父”杰弗里·辛頓（Geoffrey Hinton）和圖靈獎(jiǎng)得主約書亞·本吉奧（Yoshua Bengio）等上千人簽署公開信，呼吁暫停訓(xùn)練比GPT-4更強(qiáng)大的AI系統(tǒng)至少六個(gè)月。公開信指出，當(dāng)前人工智能實(shí)驗(yàn)室陷入了一場(chǎng)失控的競(jìng)賽，開發(fā)的大模型已經(jīng)超出了人類的理解和控制能力。因此，實(shí)驗(yàn)室和獨(dú)立專家應(yīng)該利用這段時(shí)間共同開發(fā)和實(shí)施一套共享的安全協(xié)議，確保AI系統(tǒng)的安全性，并由獨(dú)立外部專家進(jìn)行審計(jì)和監(jiān)督。此外，信中還強(qiáng)調(diào)，AI開發(fā)人員應(yīng)與政策制定者合作，加快建立強(qiáng)大的AI治理系統(tǒng)。
羅素認(rèn)為，需要有一種思路來約束AI的不當(dāng)行為，“有些事情我們不希望AI系統(tǒng)做，比如我們不希望AI系統(tǒng)擅自開始自我復(fù)制、侵入其他電腦系統(tǒng)，或者告訴恐怖分子怎么制造生物武器。那么我們就應(yīng)該規(guī)定，在產(chǎn)品問世前，開發(fā)者應(yīng)向監(jiān)管方證明該系統(tǒng)不會(huì)有這些行為。”
大語言模型無法真正思考問題
《21世紀(jì)》：你曾提到大語言模型 (LLMs)無法實(shí)現(xiàn)通用人工智能 (AGI)。LLMs已展現(xiàn)出矚目的能力，您為何認(rèn)為其仍無法將我們帶往AGI？
羅素：基于我們對(duì)大語言模型及其表現(xiàn)的觀測(cè)來看，它們?cè)趯?shí)證上有局限，比如它們經(jīng)常無法回答哪怕非常簡(jiǎn)單的推理問題。此外，還有一些技術(shù)局限，比如大語言模型是一個(gè)回路，人與系統(tǒng)進(jìn)行的對(duì)話就是上下文，當(dāng)我們將該上下文送入該回路，信息便一層一層經(jīng)過回路，由另一端輸出結(jié)果——也就是對(duì)話的下一句話或是先前問題的答案。
這個(gè)系統(tǒng)無法真正思考問題，只是信號(hào)輸入，經(jīng)過回路，信號(hào)輸出。處理時(shí)間也是固定的，它也不能花更多時(shí)間思考答案。所以，有些問題它就是無法回答的，因?yàn)槟切﹩栴}就不可能在那么短的時(shí)間里答出來。這是一個(gè)根本性的局限。
OpenAI正在嘗試的就是，如果一次循環(huán)回答不了某個(gè)問題，那就循環(huán)100次，讓大語言模型分步解決問題。但這個(gè)方法也不總是有效。對(duì)于需要更多思考的問題，這種系統(tǒng)就會(huì)浪費(fèi)大量時(shí)間在得不出答案的錯(cuò)誤思路上。因此，在這些問題上若無突破，我們就無法實(shí)現(xiàn)AGI。
《21世紀(jì)》：如果這種方式不可行，你認(rèn)為我們應(yīng)采取何種方式才能實(shí)現(xiàn)AGI？
羅素：如我所說，人們已經(jīng)意識(shí)到僅靠搭建LLMs是不足以實(shí)現(xiàn)AGI的，并且正在嘗試其他方式。我認(rèn)為對(duì)于那些方式，系統(tǒng)確實(shí)需要逐步推理。現(xiàn)在的問題是，如何引導(dǎo)推理？如何加以控制，從而在合理時(shí)間內(nèi)推出正確結(jié)論？
這是困擾了人工智能界70年的難題，要實(shí)現(xiàn)真正的AGI，需要在這個(gè)問題上有所突破。但是，我們想要的不僅是比人類更智能的系統(tǒng)，還需要確保對(duì)人類安全、有益。
我們假設(shè)，還有另一種實(shí)現(xiàn)AGI的方式，比如向外星文明發(fā)送信息，請(qǐng)求將超智能AI送至地球。信息送達(dá)后，我們就有AGI了，但最后發(fā)現(xiàn)它完全不受我們控制，這樣做也不安全。
我們不想這么做，但我們正在做的也幾乎如此，因?yàn)槲覀冋趪L試通過結(jié)果不受控的方式創(chuàng)造AGI。通過大語言模型建造的系統(tǒng)很有可能本質(zhì)上就是不安全的，因?yàn)榇笳Z言模型的訓(xùn)練目標(biāo)是模仿人類語言行為。我們以數(shù)十億的人類書寫、說話樣本作為訓(xùn)練數(shù)據(jù)，訓(xùn)練系統(tǒng)表現(xiàn)得完全和人類一樣。而我們?nèi)祟惍a(chǎn)生行為是出于目標(biāo)，比如想和某人結(jié)婚；比如希望致富，所以希望有人來采購(gòu)；希望掌權(quán)，所以希望有人來投票。而訓(xùn)練系統(tǒng)模仿人類，就是在創(chuàng)造具有這些目標(biāo)的系統(tǒng)。但我們不希望AI系統(tǒng)萌生與人類結(jié)婚的想法，不希望AI系統(tǒng)志在富有、志在掌權(quán)。所以，通過訓(xùn)練其模仿人類來構(gòu)建AI系統(tǒng)，從根本上就是危險(xiǎn)的，不應(yīng)如此。
AI需要被嚴(yán)格監(jiān)管
《21世紀(jì)》：考慮到潛在風(fēng)險(xiǎn)，我們目前應(yīng)加強(qiáng)對(duì)AI 的監(jiān)管嗎？
羅素：是的。我認(rèn)為，有這樣一種監(jiān)管的思路。有些事情我們不希望AI系統(tǒng)做，比如我們不希望AI系統(tǒng)擅自開始自我復(fù)制、侵入其他電腦系統(tǒng)、或者告訴恐怖分子怎么制造生物武器。那么我們就應(yīng)該規(guī)定，在產(chǎn)品問世前，開發(fā)者應(yīng)向監(jiān)管方證明該系統(tǒng)不會(huì)有這些行為。人們正在努力抑制AI的這些不當(dāng)行為，但效果不佳。現(xiàn)在看起來，要讓系統(tǒng)“干壞事”非常容易。
《21世紀(jì)》：我記得你也簽署了暫停訓(xùn)練強(qiáng)于ChatGPT 4的大模型的聯(lián)名信。
羅素：很多人對(duì)那封信嗤之以鼻。有人認(rèn)為，這就是浪費(fèi)時(shí)間，沒人會(huì)在意。但實(shí)際上，接下來的六個(gè)月，確實(shí)沒有強(qiáng)于ChatGPT 4的系統(tǒng)發(fā)布。各國(guó)政府也開始正視這個(gè)問題。大約三周后，中國(guó)就發(fā)布了《生成式人工智能服務(wù)管理暫行辦法》；美國(guó)在白宮召開緊急會(huì)議；聯(lián)合國(guó)也關(guān)注此事；英國(guó)政府在幾個(gè)月后宣布將舉辦人工智能安全峰會(huì)。所以我認(rèn)為那封信還是效果顯著的。
AGI能否實(shí)現(xiàn)對(duì)投資至關(guān)重要
《21世紀(jì)》：你認(rèn)為哪些領(lǐng)域?qū)呐c日俱增的AI相關(guān)投資中獲益最多？
羅素：投資的很大一部分已經(jīng)投入更多數(shù)據(jù)中心的建設(shè)了，所以這些資金就流向了芯片供應(yīng)公司，以及為數(shù)據(jù)中心提供網(wǎng)絡(luò)、空調(diào)、電力系統(tǒng)等支撐的公司。
其余的一大部分將流向基礎(chǔ)模型公司。它們從大量數(shù)據(jù)中訓(xùn)練出基礎(chǔ)大語言模型，并轉(zhuǎn)化成特定應(yīng)用下的實(shí)用產(chǎn)品，我認(rèn)為這個(gè)領(lǐng)域是會(huì)有大幅增長(zhǎng)的，但我們?nèi)蕴幵谠囼?yàn)階段。
另外一個(gè)最主要的經(jīng)濟(jì)領(lǐng)域是軟件工程，這是個(gè)大領(lǐng)域。還有一些稍小的領(lǐng)域，包括平面藝術(shù)和廣告文案撰寫等。我認(rèn)為今年仍是如此。但如果我們不能找到更多大的應(yīng)用領(lǐng)域，我不知道投資者們會(huì)不會(huì)失去耐心。自動(dòng)駕駛汽車領(lǐng)域就是例證。在美國(guó)，之前至少有十幾家企業(yè)對(duì)自動(dòng)駕駛汽車大量投資，而現(xiàn)在只剩一家。
如果我們不能實(shí)現(xiàn)AGI ，數(shù)萬億美元的投資和公司市值將化為烏有，對(duì)全球經(jīng)濟(jì)來說將是一個(gè)極大的破壞。所以這么看來，要在未實(shí)現(xiàn)AGI 的情況下讓投資有所值，這樣的中間地帶是非常狹窄的。而對(duì)于我們有多大可能突破AGI，又有多大可能迎來AI大崩塌及其泡沫的破裂，不同的人有不同的看法。
《21世紀(jì)》：您如何看待中國(guó)目前的AI發(fā)展模式及其在各行業(yè)具體應(yīng)用上的獨(dú)特優(yōu)勢(shì)與潛力？
羅素：比如在教育領(lǐng)域，研究表明，孩子在一對(duì)一真人導(dǎo)師輔導(dǎo)下學(xué)得比在一般的教室授課中快得多。理論上，我們可以給每個(gè)孩子配備一名AI導(dǎo)師。過程中仍然需要真人教師來讓孩子理解教育的過程，激勵(lì)他們，幫助他們社交，教他們?nèi)绾闻c他人合作等。
我們還不知道如何讓AI做到這些，但我認(rèn)為機(jī)會(huì)是可觀的。中國(guó)很可能是會(huì)在此投資的國(guó)家。中國(guó)的營(yíng)利教育公司似乎已經(jīng)相對(duì)成功，所以我認(rèn)為他們有動(dòng)力嘗試創(chuàng)造這樣高效的AI導(dǎo)師。這仍然非常困難。雖然已經(jīng)有一些嘗試，但我認(rèn)為還有相當(dāng)長(zhǎng)的路要走。
策劃：于曉娜
記者：袁思杰
監(jiān)制：朱麗娜
編輯：和佳
設(shè)計(jì)：林軍明
視頻制作：袁思杰
出品：南方財(cái)經(jīng)全媒體集團(tuán)
本文鏈接：SFC Outlook 2025丨專訪國(guó)際知名人工智能專家斯圖爾特·羅素：我們需要一個(gè)安全且能造福人類的AI系統(tǒng)http://m.lensthegame.com/show-2-10274-0.html
聲明：本網(wǎng)頁內(nèi)容由互聯(lián)網(wǎng)博主自發(fā)貢獻(xiàn)，不代表本站觀點(diǎn)，本站不承擔(dān)任何法律責(zé)任。天上不會(huì)到餡餅，請(qǐng)大家謹(jǐn)防詐騙！若有侵權(quán)等問題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系，我們將在第一時(shí)間刪除處理。
上一篇： 中國(guó)“人造太陽”創(chuàng)紀(jì)錄！“億度千秒”的背后與未來→
下一篇： 《廣州市數(shù)據(jù)條例》正式公布：公共數(shù)據(jù)資源使用費(fèi)收繳國(guó)庫(kù)，推動(dòng)建設(shè)城市大數(shù)據(jù)平臺(tái)