“想象一下，未來(lái)10年，人工通用智能系統(tǒng)（簡(jiǎn)稱(chēng)AGI）幾乎在每一個(gè)領(lǐng)域都超過(guò)了人類(lèi)的專(zhuān)業(yè)知識(shí)，該系統(tǒng)最終可能超過(guò)所有大型公司的總體生產(chǎn)力。這將提高人們的生活水平，但同時(shí)，我們必須共同管理其可能帶來(lái)的風(fēng)險(xiǎn)。”6月10日，在2023北京智源大會(huì)—AI安全與對(duì)齊論壇上，OpenAI聯(lián)合創(chuàng)始人山姆·阿爾特曼在其主題演講中如是說(shuō)。

　　阿爾特曼直言，AGI是一項(xiàng)關(guān)乎全球的技術(shù)，不計(jì)后果地開(kāi)發(fā)和部署所帶來(lái)的事故成本將影響到每一個(gè)人。“超強(qiáng)人工智能在10年內(nèi)就會(huì)出現(xiàn)，現(xiàn)在，盡管這項(xiàng)技術(shù)仍處于早期，但在全球范圍內(nèi)建立合作的標(biāo)準(zhǔn)和框架是必要的。”阿爾特曼呼吁，人類(lèi)需要為AI構(gòu)筑“安全護(hù)欄”，使之更好地服務(wù)人類(lèi)。

　　北京智源人工智能研究院院長(zhǎng)黃鐵軍也表示，今年，一批大模型問(wèn)世，人工智能出現(xiàn)了六七十年來(lái)里程碑式的新特性——涌現(xiàn)性，即能夠產(chǎn)生預(yù)料之外的新能力，這也引發(fā)了很多人新的擔(dān)憂(yōu)。

　　人們擔(dān)心，由于AI會(huì)涌現(xiàn)出各種各樣預(yù)料之外的可能，因此很難對(duì)其進(jìn)行監(jiān)管。“這是一個(gè)巨大挑戰(zhàn)。”黃鐵軍坦言，“但這并不意味著人們無(wú)法對(duì)AI進(jìn)行管理。”他表示，人類(lèi)和AI相似，同樣也是不可預(yù)測(cè)的智能系統(tǒng)。實(shí)踐證明，倫理、法律法規(guī)等方式很好地為人類(lèi)樹(shù)立了規(guī)范。如何管理一個(gè)創(chuàng)造性極強(qiáng)的系統(tǒng)，社會(huì)學(xué)、歷史學(xué)等學(xué)科都能提供很好的借鑒意義。

　　技術(shù)層面上，OpenAI正在推進(jìn)對(duì)齊研究，讓AGI與人類(lèi)價(jià)值觀(guān)保持一致并遵循人類(lèi)意圖。“我們應(yīng)該在促進(jìn)和引導(dǎo)AI對(duì)齊與安全研究方向進(jìn)行投資。”阿爾特曼說(shuō)。

　　未來(lái)的AGI系統(tǒng)或許具有10萬(wàn)行二進(jìn)制代碼，人類(lèi)監(jiān)管人員不太可能發(fā)現(xiàn)這樣的模型是否在做一些邪惡的事情。

　　阿爾特曼表示，對(duì)數(shù)據(jù)集參數(shù)極其龐大的大模型而言，很難以人力的方式逐一讓AI與人類(lèi)價(jià)值觀(guān)對(duì)齊。為此，可使用一種名為“可拓展監(jiān)督”的方式。“我們可以嘗試使用AI系統(tǒng)來(lái)協(xié)助人類(lèi)監(jiān)督其他AI系統(tǒng)。”他說(shuō)，這種方式的最終目標(biāo)，是訓(xùn)練AI系統(tǒng)來(lái)幫助人類(lèi)進(jìn)行對(duì)齊研究。

　　同時(shí)，還要加強(qiáng)合作。阿爾特曼認(rèn)為，隨著人工智能系統(tǒng)越來(lái)越強(qiáng)大，全球合作變得前所未有的重要。首先，應(yīng)在技術(shù)研發(fā)過(guò)程中建立平等、統(tǒng)一的國(guó)際規(guī)范和標(biāo)準(zhǔn)，以便所有國(guó)家都能使用AGI；其次，應(yīng)通過(guò)國(guó)際合作，以可驗(yàn)證的方式，建立全球?qū)θ找鎻?qiáng)大的人工智能系統(tǒng)安全開(kāi)發(fā)的信任體系。

　　做到上述兩點(diǎn)并不容易，需要國(guó)際科技界的通力合作，特別是在推動(dòng)建立提高人工智能系統(tǒng)安全技術(shù)進(jìn)步方面的透明度和知識(shí)共享的機(jī)制方面。當(dāng)研究人員發(fā)現(xiàn)新出現(xiàn)的安全問(wèn)題時(shí)，應(yīng)及時(shí)分享他們的見(jiàn)解，以實(shí)現(xiàn)利益的最大化。“我們需要認(rèn)真思考，如何在尊重和保護(hù)知識(shí)產(chǎn)權(quán)的同時(shí)，鼓勵(lì)這樣的規(guī)范。這可以為深化合作打開(kāi)新的大門(mén)。”阿爾特曼說(shuō)。

　　“中國(guó)擁有世界上一些最優(yōu)秀的AI系統(tǒng)。”阿爾特曼表示，“真誠(chéng)希望中國(guó)和美國(guó)的研究人員能對(duì)AI領(lǐng)域的國(guó)際合作作出貢獻(xiàn)。”（記者 付麗麗）