編者按：
(資料圖片)
短短幾個(gè)月，ChatGPT在全球圈粉無數(shù)，其背后的原理和工作機(jī)制是什么？它會(huì)替代記者的工作嗎？我們應(yīng)該怎么看待ChatGPT的未來發(fā)展？光明網(wǎng)《創(chuàng)新改變中國》欄目專訪中國傳媒大學(xué)腦科學(xué)與智能媒體研究院院長、博士生導(dǎo)師曹立宏，從人工智能視角探究ChatGPT。
專家簡介
曹立宏，中國傳媒大學(xué)腦科學(xué)與智能媒體研究院院長、博士生導(dǎo)師，中傳學(xué)術(shù)委員會(huì)副主任，中國人工智能學(xué)會(huì)第八屆理事會(huì)理事，第八屆教育部科技委員會(huì)人工智能與區(qū)塊鏈技術(shù)專委會(huì)委員，專注于類腦智能和計(jì)算的研究。
“ChatGPT使用感不錯(cuò)，但也有不足”
光明網(wǎng)：您使用ChatGPT的感受如何？有哪些明顯不足？
曹立宏：相比過去的GPT3，感覺確實(shí)是有明顯的提升，尤其是它對(duì)話的流暢性很好，說明現(xiàn)在語言生成模式方面做得不錯(cuò)了。對(duì)于普通的知識(shí)，比較大眾化的或者比較淺顯的專業(yè)知識(shí)，它能夠提供，組織得也很不錯(cuò)。但對(duì)于比較專業(yè)性的問題，它就開始出問題了。
ChatGPT使用了帶人類反饋的強(qiáng)化學(xué)習(xí)，GPT3生成語言的能力就已經(jīng)很強(qiáng)大了，再加上Chat（聊天）的方式，就比較火，某種意義上這也是商業(yè)推廣很好的模式。目前ChatGPT似乎有個(gè)限制，內(nèi)容更新不是很快。例如，你要問它中國最火的電視劇，它大概答不出叫《狂飆》。因?yàn)檫@涉及AI中的災(zāi)難性遺忘問題：怎么讓它很快學(xué)會(huì)新東西，又不去干涉原來的東西，這是AI領(lǐng)域尚未完全解決的問題。
另外，ChatGPT沒有對(duì)概念的具身體驗(yàn)，這就是我們真正的common sense（常識(shí)），我們從小在生活環(huán)境里所積累的知識(shí)，例如重力等等。對(duì)一個(gè)東西我們不單看到，會(huì)聽到，可能會(huì)摸到、聞到、吃到，是全方位的。如果你看到一個(gè)黑色的蘋果，你敢吃嗎？你肯定會(huì)猶豫，沒準(zhǔn)一摸你就知道那是個(gè)爛蘋果。實(shí)際上我們?nèi)祟惖睦斫夂芏鄸|西是具身理解的，在自然語言處理里的“理解”，僅僅依靠文本，是一種膚淺的理解。
圖片由百度文心大模型 AI 生成
關(guān)鍵詞：《狂飆》，災(zāi)難性遺忘，常識(shí)，具身體驗(yàn)，文本
光明網(wǎng)：作為一名記者，被ChatGPT替代的可能性有多高？
曹立宏：我覺得你現(xiàn)在不用太擔(dān)心，首先記者是個(gè)基于深度理解來提出問題的提問者。在深度理解這方面，ChatGPT目前還做不到。還有，它現(xiàn)在不碰情感系統(tǒng)。但作為記者，這兩點(diǎn)都很重要。而且，記者需要快速學(xué)習(xí)，因?yàn)槟阆Ｍ朗茉L者的性格等等方面，在采訪過程當(dāng)中，甚至你可以快速學(xué)習(xí)和了解到，這些都不是機(jī)器目前能夠做得了的。
圖片由百度文心大模型 AI 生成
關(guān)鍵詞：記者，深度理解，提問，情感，快速學(xué)習(xí)，性格
“ChatGPT更多還只是一個(gè)輔助工具”
光明網(wǎng)：我看您在朋友圈里評(píng)論，“ChatGPT是穿了個(gè)AI的深度學(xué)習(xí)馬甲”，“不要把ChatGPT看成AI就好”，“對(duì)科學(xué)來說大概率是很流暢地胡說八道”，如何理解這些觀點(diǎn)？
曹立宏：這幾年自然語言處理領(lǐng)域確實(shí)有比較大的發(fā)展。很多學(xué)生就往這個(gè)方向偏，覺得這個(gè)方向好找工作。很多企業(yè)也確實(shí)需要這樣的人，但作為我們做科研的人確實(shí)還是蠻擔(dān)心的，不太樂觀，因?yàn)樗鼘?duì)專業(yè)的東西會(huì)胡說八道。所以如果是想要搞研究的人把ChatGPT當(dāng)成導(dǎo)向式的東西的話，可能會(huì)引發(fā)很大的問題。所以我說它是“穿了個(gè) AI的深度學(xué)習(xí)的馬甲”，它本身并不像科學(xué)家或者專業(yè)的人具有很專業(yè)的思考和專業(yè)的知識(shí)。
另一句“不要把它看成是AI就好”，因?yàn)锳I的本源是想要模仿我們?nèi)祟惖闹悄堋：苊黠@ChatGPT它不是類似于人的智能，在某種意義上它超越了人，它知識(shí)面特別廣,但是在深度上，它沒辦法像人一樣深入思考。對(duì)于具有科學(xué)深度的知識(shí)和思考，它大概率是很流暢的，但常常是“很一本正經(jīng)的胡說八道”。
圖片由百度文心大模型 AI 生成
關(guān)鍵詞：自然語言處理，找工作，胡說八道，馬甲，專業(yè)思考，AI，人類
光明網(wǎng)：如果不把它看成AI，要把它看成什么呢？
曹立宏：一個(gè)輔助工具，就好像最早的時(shí)候連計(jì)算器都沒有，我們買菜買肉就心算，麻煩一點(diǎn)就拿個(gè)筆算，慢一點(diǎn)。后來有計(jì)算器了，就快了。現(xiàn)在ChatGPT也是特別快，它的自由度變高了，也就是說我可以隨便問。以前你也可以用搜索引擎搜索很多東西，但基本以關(guān)鍵詞搜索。現(xiàn)在可以用關(guān)鍵句來搜索。你可以讓它幫你寫一段，所以效率是高了。但是它的產(chǎn)出的內(nèi)容是否有深度？這個(gè)我不看好。
圖片由百度文心大模型 AI 生成
關(guān)鍵詞：輔助工具，計(jì)算器，自由，搜索引擎，關(guān)鍵句，效率，深度
“未來需警惕ChatGPT被濫用”
光明網(wǎng)：怎么看ChatGPT的未來發(fā)展？
曹立宏：我認(rèn)為ChatGPT有兩條發(fā)展路徑。一還是所謂深度學(xué)習(xí)，它本質(zhì)上采用的是人工神經(jīng)元模型構(gòu)建的深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)及相關(guān)的稱為反向傳播學(xué)習(xí)算法。但這個(gè)模型本身偏離了生物大腦中的神經(jīng)元模型和學(xué)習(xí)算法。所以連深度學(xué)習(xí)最為核心的科學(xué)家Geoffrey Hinton還在積極尋找更類似大腦的模型和算法。我們需要更好的模型和算法，可惜到現(xiàn)在也沒有完全提出來。對(duì)ChatGPT來說，這相當(dāng)于要?jiǎng)右粋€(gè)比較核心的手術(shù)。
還有一條路徑，是更多從大腦的角度去思考，例如在ChatGPT里它用到了一個(gè)最基本的技術(shù)，就是把例如蘋果、梨等等概念量化，變成所謂的詞向量，這種量化在大腦里看可能不完全是這樣的。所以我們能不能有一個(gè)更類似于大腦記憶、量化、學(xué)習(xí)的方式，也有可能演變出更類似于人的ChatGPT。
未來，它會(huì)是一個(gè)人們喜歡去用的工具，我也會(huì)用。目前的聲音太過于正面了，如果缺乏對(duì)它極限能力判斷的話，（ChatGPT）會(huì)被濫用，濫用帶出來的問題就太大了。
圖片由百度文心大模型 AI 生成
關(guān)鍵詞：深度學(xué)習(xí)，人工神經(jīng)元模型，神經(jīng)網(wǎng)絡(luò)，反向傳播學(xué)習(xí)算法，大腦，工具
（光明網(wǎng)記者 林佳欣）
營業(yè)執(zhí)照公示信息