想刁難ChatGPT？沒想到破防的是小編！權(quán)威專家科普來了！

中新網(wǎng)2月11日電 (記者 孟湘君)這幾天，ChatGPT可以說是“火爆全宇宙”！

大家想出各種各樣奇奇怪怪的問題，盡情“投喂”給這款聊天機(jī)器人，看它如何給出或?qū)I(yè)準(zhǔn)確的回復(fù)，或驢頭不對馬嘴的搞笑答案。

記者也出了些題讓ChatGPT作答，一起來看看它的“小作文”寫得怎么樣吧！沒想到，其中一篇，記者的小編同事被戳中痛點(diǎn)，破防了！

先看第一個(gè)：

對于特定采訪對象，ChatGPT貼心設(shè)計(jì)了有針對性的提問，可以說基本達(dá)到了記者們的應(yīng)有水平吧。

來看下一個(gè)題目：

ChatGPT是懂新聞行業(yè)的！這描述也太生動(dòng)貼切了吧，簡直“人間真實(shí)”！

它還對從事新聞工作的意義進(jìn)行了升華，有小編看完后對記者表示，自己頓感肩頭責(zé)任重大，看著看著，不禁眼眶一熱，破防了！(強(qiáng)行與AI共鳴)

再來看幾個(gè)：

從寫工作周報(bào)、寫求職信、回答公務(wù)員考試試題的情況來看，ChatGPT的表現(xiàn)還行。那么，它的工作原理是怎樣的？

根據(jù)OpenAI介紹，相比之前的GPT模型，其對ChatGPT采用了全新的訓(xùn)練方式，即為一種“從人類反饋中強(qiáng)化學(xué)習(xí)”的訓(xùn)練方式。

這意味著，用戶輸入信息越多，ChatGPT深度學(xué)習(xí)、持續(xù)改進(jìn)的機(jī)會也就越多，對人類語言的理解和“反芻”，也會越來越深刻。換言之，是廣大用戶義務(wù)幫OpenAI來“教”自家的“娃”。

對此，中新網(wǎng)記者專訪清華大學(xué)國強(qiáng)教授、智能產(chǎn)業(yè)研究院(AIR)首席研究員聶再清，對ChatGPT的創(chuàng)新性、特點(diǎn)以及應(yīng)用前景等，進(jìn)行深入解析。

中新網(wǎng)：

ChatGPT究竟是一個(gè)什么樣的產(chǎn)品？

聶再清：

ChatGPT本質(zhì)上是一個(gè)基于統(tǒng)計(jì)的語言模型。當(dāng)然，它現(xiàn)在還只是一個(gè)語言模型，以后應(yīng)當(dāng)會逐步發(fā)展到多模態(tài)，比如為圖片(擬出)對應(yīng)文字，給出對圖片的理解等。與人聊天只是它能力的一方面，更多地還是內(nèi)容生成的能力，包括未來可能更多地把它運(yùn)用到寫作上。

OpenAI官網(wǎng)介紹ChatGPT為一種“優(yōu)化對話的語言模型”。圖片來源：OpenAI官網(wǎng)截圖

中新網(wǎng)：

大家或多或少接觸過國內(nèi)已有的一些語音聊天機(jī)器人，比如掃地機(jī)器人、語音智能助手等，ChatGPT與這類機(jī)器人相比，有哪些區(qū)別？

聶再清：

之前的聊天機(jī)器人已經(jīng)能夠通過語音交互，幫用戶完成很多重復(fù)性的工作。這類機(jī)器人在業(yè)界比較成功的應(yīng)用，是運(yùn)用基于任務(wù)型的對話，通過意圖理解、槽值填充，把問題參數(shù)抽出來，然后去回答用戶的問題，比如智能客服；或幫用戶完成一個(gè)智能家居的操作，比如AIoT語音助手。

它們更多是屬于一些封閉域內(nèi)任務(wù)完成型的機(jī)器人，通過對話真正去執(zhí)行某些特定領(lǐng)域的功能，首先得把事情做對，才能獲得用戶信任。這是這類機(jī)器人最關(guān)鍵的一項(xiàng)能力。

ChatGPT更多地則是實(shí)現(xiàn)開放域的對話、輸出寫作內(nèi)容等。跟以前的聊天機(jī)器人比，ChatGPT最讓人印象深刻的就是能用像模像樣的“人話”來回答幾乎任何領(lǐng)域的用戶問題，并對上下文有一定程度的理解。

中新網(wǎng)：

一些人以 “從0到1”、“劃時(shí)代的革命性突破” 來形容ChatGPT, 美國富豪埃隆·馬斯克也發(fā)文稱“ChatGPT好得嚇人”。您認(rèn)為ChatGPT有那么厲害嗎？其創(chuàng)新性體現(xiàn)在哪些方面？

聶再清：

ChatGPT在算法層面一個(gè)比較重要的創(chuàng)新，就是把強(qiáng)化學(xué)習(xí)引入到大模型的訓(xùn)練和使用上。之前實(shí)現(xiàn)開放域?qū)υ挼淖畲罄щy，在于用戶輸入的話題各種各樣，任務(wù)空間太大，很難有足夠的監(jiān)督信號拿來訓(xùn)練。

那么，如今ChatGPT通過利用人類反饋信號學(xué)習(xí)到的獎(jiǎng)勵(lì)模型(reward model)，來為任意一個(gè)問題自動(dòng)估算監(jiān)督信號，充分利用強(qiáng)化學(xué)習(xí)的嘗試探索(exploration)能力來解決開放域任務(wù)空間太大的挑戰(zhàn)。這是一個(gè)比較好的創(chuàng)新應(yīng)用。它在回答開放域問題時(shí)基本上能做到邏輯上比較通暢，句式上也像模像樣，這不是很容易就能做到的。

同時(shí)ChatGPT用到的GPT3.5，作為一個(gè)基礎(chǔ)語言模型的質(zhì)量也是非常高的。這需要大量的數(shù)據(jù)預(yù)處理工作，需要把各領(lǐng)域的語料整理好“喂”進(jìn)大模型，在訓(xùn)練過程中不斷積累能力，才能產(chǎn)生一個(gè)如此高效的基礎(chǔ)語言模型。

另一個(gè)比較重要的能力，就是ChatGPT能拒絕回答一些它判斷為不適合回答的問題，懂得“拒絕”。實(shí)際上之前一些聊天機(jī)器人在設(shè)計(jì)時(shí)，也會謹(jǐn)慎處理一些比較敏感的問題，以及跟人類主流價(jià)值觀不契合的內(nèi)容。ChatGPT也在不斷提升這種能力，防范生產(chǎn)出敏感或有偏見的內(nèi)容。

ChatGPT的試用頁面上，標(biāo)注了偶爾可能輸出錯(cuò)誤、有害、有偏見信息；對2021年后的世界認(rèn)知有限等說明。

中新網(wǎng)：

大家體驗(yàn)后發(fā)現(xiàn)，ChatGPT不是完美的，還是會出錯(cuò)，也就是“一本正經(jīng)地胡說八道”。您認(rèn)為它需要改進(jìn)的方面有哪些？

聶再清：

ChatGPT進(jìn)行開放域聊天最大的好處，是它什么話題都接得住，能一直聊下去，有連續(xù)性。但最大的壞處是，有時(shí)用戶無法判斷它是否正確。如果提問人對問題答案不了解的話，會覺得它答得不錯(cuò)；但對一些不常見，提問人又知道答案的問題，就會發(fā)現(xiàn)ChatGPT有可能用一本正經(jīng)的口氣，編出了錯(cuò)誤答案。

因此，不看具體知識點(diǎn)的話，ChatGPT似乎回答得很專業(yè)。但它目前難以真正理解和回答開放域里有具體知識點(diǎn)的問題，在處理開放域的問題上實(shí)際上還是基于概率，基于前一個(gè)值來生成下一個(gè)值。要通過圖靈測試，還要繼續(xù)努力。

中新網(wǎng)：

ChatGPT是把所有輸入給它的信息復(fù)制、堆砌起來，還是能生成原創(chuàng)內(nèi)容？它有“創(chuàng)造力”嗎？

聶再清：

可以視為ChatGPT是在搞創(chuàng)作，因?yàn)檫@是它經(jīng)過大量學(xué)習(xí)后，基于概率自己產(chǎn)生的內(nèi)容。讓它寫一封郵件、一首詩，也可以輸出看上去“長得很像”用戶所要求的東西。

但比如去寫論文、搞數(shù)學(xué)論證、去做實(shí)驗(yàn)并得出結(jié)果，它現(xiàn)在應(yīng)該還沒有那么強(qiáng)大，還不能系統(tǒng)地提出具有創(chuàng)新性的觀點(diǎn)，但是它輸出的一些內(nèi)容可能會對科研工作帶來一些啟發(fā)。

在誰可能取代自己這個(gè)問題上，ChatGPT列出了一些對象，中國企業(yè)華為的產(chǎn)品上榜。

中新網(wǎng)：

您認(rèn)為中國需要擁有類似于ChatGPT這樣，屬于自己的語言大模型嗎？

聶再清：

我認(rèn)為我們特別有必要去構(gòu)建像ChatGPT這樣一個(gè)大的語言模型，中國需要有自己的這類產(chǎn)品。ChatGPT不光可以聊天、幫助寫作，也是很多下游人工智能任務(wù)的基礎(chǔ)模型(foundation model)。一些中國企業(yè)已經(jīng)在跟進(jìn)，相信接下來我們國家會出現(xiàn)類似的模型。但是具體功能和質(zhì)量能否超越ChatGPT，需要等發(fā)布以后才知道。這需要我們的企業(yè)在資源和人才投入上有耐心，具備長遠(yuǎn)的眼光，不能太注重短期的商業(yè)回報(bào)。

當(dāng)然，我們也不需要每個(gè)企業(yè)都做一個(gè)ChatGPT，造成資源浪費(fèi)。

中新網(wǎng)：

一些觀點(diǎn)認(rèn)為，ChatGPT將來會取代部分人的職業(yè)。您怎么看？

聶再清：

我認(rèn)為，雖然有一些模板化、重復(fù)性的寫作可以被ChatGPT取代，但應(yīng)該說它還是作為人類的助手更合適。比如幫助用戶在從事寫作、寫代碼、商業(yè)提案、廣告文案設(shè)計(jì)、翻譯等工作時(shí)，可以大幅提高他們的工作效率。

它應(yīng)當(dāng)被用作一種提高效率的工具，成品最終還是要人類來把關(guān)和確認(rèn)。而且如果出了錯(cuò)，責(zé)任應(yīng)該還是落到具體的人身上。

中新網(wǎng)：

ChatGPT這樣的語言交互類產(chǎn)品，是否存在隱私泄露的風(fēng)險(xiǎn)？

聶再清：

用戶向ChatGPT提問的問題，本身就帶有信息量，向它輸入信息，不排除有一定的信息泄露風(fēng)險(xiǎn)，包括信息跨境流動(dòng)問題。這取決于這個(gè)產(chǎn)品的研發(fā)人員、運(yùn)營人員、數(shù)據(jù)管理者等，是否對相關(guān)信息進(jìn)行了妥當(dāng)處理，不讓個(gè)人隱私等外泄，或用于其他用途。如果有問題，責(zé)任應(yīng)由他們承擔(dān)。

看完專家的權(quán)威分析，再來看看我們還給ChatGPT布置了哪些有趣的“作業(yè)”吧！

如果有人發(fā)來這樣一封情書，你會心動(dòng)嗎？

看到小帥、大壯、小美幾個(gè)名字，你的耳畔有沒有自動(dòng)響起一段充滿懸疑感的音樂？

這首詩說明，對于博大精深的中華文化，ChatGPT還有很多東西要學(xué)習(xí)……

看著這“跌宕起伏”的小說情節(jié)，只能說ChatGPT盡力了！

雖然知道ChatGPT是語言模型，記者還是想“逼”它畫畫，但是直接讓它畫，它回答做不到，最后記者用“打印”指令，讓它“畫”出了一只數(shù)碼小貓，送給大家。

ChatGPT，和你想象中的一樣嗎？(完)