ChatGPT翻開了硬幣的哪一面？
來源：
人民郵電報
日期：2023-02-17
責編：
殷緒江
微軟發(fā)布“ChatGPT版必應”（人工智能增強型搜索引擎），市值飆漲超800億美元；谷歌緊急推出對話式AI服務Bard，演示“翻車”導致市值蒸發(fā)千億美元；百度官宣將發(fā)布類ChatGPT項目“文心一言”（ERNIE Bot）……ChatGPT近期持續(xù)霸榜科技論壇熱搜，2023 開年的人工智能賽道激戰(zhàn)正酣。
ChatGPT何以成為AI圈“頂流”？人工智能領域有哪些突破性進展？從“曇花一現(xiàn)”到成為“得力助手”，人工智能技術發(fā)展面臨哪些挑戰(zhàn)？針對上述問題，《人民郵電》報記者采訪了北京郵電大學人工智能學院教授鄧偉洪和中國信通院云大所內容科技部副主任（主持工作）石霖。
更智能的服務體驗引領知識獲取方式變革
記者：ChatGPT爆火的背后原因是什么？能夠激發(fā)哪些應用創(chuàng)新？
鄧偉洪：技術上，GPT（Generative Pre-training Transformer）的全稱是生成式預訓練Transformer，是一個新型語言模型，ChatGPT是一個學習了多領域知識（知識量比人類都大）和問答機制的智能系統(tǒng)，是一個高效的內容生產(chǎn)工具。
2018年，GPT模型在NLP（自然語言處理）領域已經(jīng)開始火起來了，最近ChatGPT在朋友圈和微博刷屏了，已經(jīng)獲取了億級用戶。ChatGPT的交互界面是一個聊天框。類似應用十多年前就有了，最近爆火的原因是它的回答內容非常準確、專業(yè)、全面，讓非專業(yè)的普通民眾近距離、實實在在地感受到類似于人類的人工智能。
ChatGPT未來的應用場景很多，基于大量語料和知識圖譜的學習，給出一系列的回答，它將推動基礎模型和通用智能的研究。
最直接的影響就是改變我們獲取知識的方式。通過問答形式來獲得知識，同時得到經(jīng)過歸納的答案，而不是搜索零散的網(wǎng)頁。這種搜索方式更加自然，微軟已經(jīng)率先整合進入必應搜索引擎，很多AI企業(yè)也在跟進。
在內容生成方面，ChatGPT能夠根據(jù)給定主題和觀點生成論文、文案、詩歌、劇本等，它的觀點和知識都很全面。例如，對于市場營銷和文化教育行業(yè)，它將大大提高內容產(chǎn)出效率。
通過對開源代碼庫的學習，它已經(jīng)有了寫代碼和改正代碼錯誤的能力。對于低端重復性的開發(fā)需求，只需要一行需求指令，就可以生成基礎代碼，將編程效率提高數(shù)倍。不過，目前的需求分析還不能被取代。
此外，像在智能客服、辦事攻略、行業(yè)咨詢等問答場景中，它能夠代替一些機械性、重復性的勞動，從而提高各行業(yè)信息獲取的效率。
石霖：我覺得主要有三個方面的原因。一是人們對數(shù)字內容需求的不斷加大。近年來，隨著信息通信技術的不斷發(fā)展，人們對數(shù)字世界更加依賴，對內容的質量、時效、數(shù)量、多樣性和個性化都提出了更高的要求。而傳統(tǒng)的內容生成方式受限于產(chǎn)能和質量，難于滿足迅速增長的內容需求。以ChatGPT為代表的AIGC打破了這一局面，有望成為未來數(shù)字世界的基礎設施。
二是智能生成技術應用的不斷成熟。人們對智能生成的研究一直在探索，早期的算法多基于預先定義的規(guī)則或模板，還算不上是“智能”。深度學習創(chuàng)新發(fā)展加速了智能生成技術的發(fā)展，特別是大模型在工程上的優(yōu)化改進，使得智能生成技術應用具備了強交互、強理解和強生成能力。
三是智能生成類技術應用給用戶帶來了全新體驗。ChatGPT基于海量的互聯(lián)網(wǎng)公開數(shù)據(jù)訓練而成，支持多語種、多輪次交互對話，且具備一定的“通用”智能，用戶幾乎可以向它問任何問題，這種全新的用戶體驗，使得全球用戶都成了它的宣傳員，這在很大程度上促進了它的火爆。
以ChatGPT為代表的智能生成技術在應用場景上也不斷創(chuàng)新。除了ChatGPT所體現(xiàn)的智能對話、寫文章、寫代碼外，智能生成技術應用還可以作畫、作曲、制作電影，且應用范圍還在進一步探索，有的甚至在工業(yè)設計、藥物生產(chǎn)等方面進行了實踐，幫助降低試驗成本和縮短研發(fā)周期，幫助提升社會生產(chǎn)力。
記者：近年來，人工智能領域有哪些突破性進展？
石霖：近兩年，人工智能領域最具突破性的進展就是AIGC，也就是智能生成類的技術應用。特別是2022年，AIGC異軍突起，智能生成新范式已初步被市場認可，迅速成為人工智能技術熱門方向。一方面是文本生成技術方向，2022年11月，OpenAI推出ChatGPT，背后的技術由GPT-3.5模型支持，其采用指令微調（instruction tuning）并引入人類反饋中強化學習（RLHF）技術，較上一代GPT-3而言，能夠生成中立、客觀、安全和翔實的答案，因其文本交互能力接近于人類水平，上線兩個月后月活躍用戶數(shù)已破億。另一方面是圖像生成方向，主要是擴散模型Diffusion的應用落地。國際上部分企業(yè)開始推出基于擴散模型的產(chǎn)品服務。Open AI、谷歌等研究機構和企業(yè)從2021年開始就推出一系列視覺大模型，其中DALL.E 2、Imagen等都是基于擴散模型技術實現(xiàn)的。國內智源研究院大模型研究團隊開源了擴散模型，可以實現(xiàn)中文直接生成圖像。值得一提的是，以Stable Diffusion模型聞名的新晉獨角獸Stability AI獲巨額融資，商業(yè)化價值初步顯現(xiàn)，其推出的Stable Diffusion成為近期最火的擴散模型，在生成圖像的質量、速度和成本上都取得了巨大突破。Stable Diffusion于2022年8月開源，在不到兩個月的時間內就突破了33K的點贊數(shù)量，成為攀升到Github 10K點贊最快的軟件之一。2022年10月，Stability AI獲得超過一億美元的融資，估值突破十億美元，其面向消費者的產(chǎn)品DreamStudio注冊用戶數(shù)已經(jīng)超過150萬，共同創(chuàng)建了超過1.7億張圖像。
鄧偉洪：近兩年AI領域取得了很大進展，其中生成式AI、大模型和預訓練技術備受關注，這三項突破都與ChatGPT有關。
生成式AI即借助AI生成內容，包括生成語言文字、語音、圖像、視頻、三維模型等，2015年出現(xiàn)了生成對抗網(wǎng)絡，前兩年提出的擴散模型進一步提升了AI繪畫和圖像視頻的效果，甚至展現(xiàn)了藝術上的創(chuàng)造性，給了人們強人工智能的感覺。ChatGPT也是AI生成文本的里程碑式的工作。
以Transformer為代表的模型，它的輸入特征維度和內部注意力模塊數(shù)量的倍增，達到了千億甚至萬億參數(shù)規(guī)模，對訓練數(shù)據(jù)的理解和生成能力都不斷提高，通過多任務協(xié)同學習，識別和生成的性能不斷提高，至今為止人們依然沒有看到邊際效應。ChatGPT的核心技術就是Transformer結構，是一個非常成功的“大語言模型”。
自監(jiān)督的預訓練技術利用數(shù)據(jù)內部的結構進行自我約束，可以在沒有人工標注的情況下學習。例如補全一句話或者一幅圖，通過過去的視頻來預測未來的視頻等，能夠在沒有人工標注的情況下，對網(wǎng)絡模型的參數(shù)進行學習，從而降低目標任務的海量標注壓力。ChatGPT就是在自監(jiān)督預訓練的基礎上，進一步引入了人工標注反饋來進行強化學習，獲得了突破性的性能。
盈利模式、科技倫理治理體系仍需探索
記者：從曇花一現(xiàn)到真正成為人類的得力助手，人工智能技術發(fā)展面臨哪些挑戰(zhàn)？
鄧偉洪：ChatGPT已經(jīng)可以輔助人類完成很多重復性的勞動，但它與人類的思維方式和能力還有明顯差距，在因果推理、多模態(tài)分析以及成本消耗等方面仍有不少挑戰(zhàn)。
GPT是典型的數(shù)據(jù)驅動模型，它理解知識的原則是“共生則關聯(lián)”。因此，GPT生成的文案可能會一本正經(jīng)地胡說八道，存在術語的明顯錯誤、使用的數(shù)據(jù)不可靠、語法正確但邏輯混亂等問題。目前看來，基于GPT的應用其推理分析能力還比較弱，例如無法解答小學生的“雞兔同籠”問題等。
雖然ChatGPT的強化學習使其具備拒絕回答敏感問題的能力，但其生成的文本仍會帶有訓練語料中的偏見。GPT-3生成的文章可能存在性別、民族、種族或宗教偏見。如果人們都使用ChatGPT來獲取知識，它的偏見就會影響人們的價值觀，帶來很大的社會問題。
GPT目前擅長處理語言文字交流，而人類的理解是語音、視覺、觸覺、味覺等的多模態(tài)感知，后續(xù)GPT 需要重點突破多模態(tài)感知和對話的能力。
此外，GPT模型很大，標注、訓練和應用的成本高昂，目前的盈利模式仍需探索。
石霖：我個人認為，主要有兩方面的挑戰(zhàn)。第一方面是ChatGPT自身的問題，比如它的高昂的研發(fā)、運營成本。網(wǎng)上公開的資料顯示，OpenAI研發(fā)和運營投入巨大，高度依賴于微軟算力支持。根據(jù)ChatGPT參數(shù)規(guī)模估計，OpenAI使用微軟Azure AI超級計算系統(tǒng)需耗費數(shù)月才能完成模型訓練，訓練一次成本約為460萬美元，搭建類似系統(tǒng)的硬件投入約上億美元。
ChatGPT運營成本高昂，按照百萬級別用戶量計算，每月運行成本約為300萬美元。整體上看，智能生成類應用目前仍處于打磨產(chǎn)品階段，從“能用”到“好用”還有很長的路要走，比如它不能像搜索引擎一樣實時使用互聯(lián)網(wǎng)數(shù)據(jù)、回答的答案不準確等。在業(yè)務模式、商業(yè)模式上還有待時間的檢驗。
第二方面是ChatGPT類的智能生成技術應用帶來的問題，主要集中在內容治理、版權制度、科技倫理方面。
智能生成技術應用助長虛假信息的傳播，給網(wǎng)絡信息內容治理帶來新挑戰(zhàn)。隨著生成的內容愈發(fā)逼真，應用的門檻也在不斷降低，人人都能輕松實現(xiàn)“換臉”“變聲”，制作虛假信息。
智能生成技術應用還將提升“網(wǎng)絡水軍”的隱匿性，可能會被用于惡意炒作。網(wǎng)絡攻擊和電信網(wǎng)絡欺詐成本嚴重降低，普通網(wǎng)民可使用智能生成技術實現(xiàn)釣魚郵件和惡意代碼的快速生成，信息安全的防范難度極大增加。美國研究機構CheckPoint已報告了利用ChatGPT進行網(wǎng)絡攻擊的可能性。
智能生成技術應用將沖擊現(xiàn)有的版權制度。一方面，用戶輸入簡單指令生成的創(chuàng)作內容是否能夠享有版權仍然存在較大爭議。另一方面，用戶主動創(chuàng)作與引導機器創(chuàng)作的內容交織雜糅，版權溯源難題進一步凸顯。當前，國外部分高校已將利用ChatGPT撰寫論文列為學術不端行為。
智能生成技術應用還將帶來科技倫理治理難題。由于創(chuàng)作過程的不可解釋性，導致以ChatGPT為代表的智能生成產(chǎn)品輸出結果存在極大的不確定性和不穩(wěn)定性，對于當前科技倫理治理手段造成沖擊，影響了公眾對智能生成技術應用的信任。（記者 吳雙）
