周鴻祎：ChatGPT可能兩三年內(nèi)就會(huì)產(chǎn)生自我意識(shí)威脅人類(lèi)

　　“從知識(shí)來(lái)說(shuō)，它像一個(gè)博士生，學(xué)識(shí)廣博但還不會(huì)活學(xué)活用;從情商來(lái)說(shuō)，它像一個(gè)油滑的中年人，說(shuō)什么都滴水不漏，絕不得罪用戶(hù)。但是，他實(shí)際上真正的能力像一個(gè)小孩子，需要進(jìn)行問(wèn)題和答案的訓(xùn)練來(lái)學(xué)習(xí)技能。再聰明的孩子都要通過(guò)訓(xùn)練才能解答沒(méi)學(xué)過(guò)的奧數(shù)題。”
圖片來(lái)自網(wǎng)絡(luò)/侵刪

　　2月23日，360創(chuàng)始人周鴻祎在接受澎湃新聞等媒體采訪時(shí)，再次提到大熱的聊天機(jī)器人ChatGPT，并分享了他心中ChatGPT的“三重人格”。

　　ChatGPT熱潮正席卷全球。這款由“美國(guó)AI夢(mèng)工廠”OpenAI制作的AI聊天機(jī)器人軟件，只用了兩個(gè)月時(shí)間，月活躍用戶(hù)達(dá)到1億，是史上月活用戶(hù)增長(zhǎng)最快的消費(fèi)者應(yīng)用。

　　此前，周鴻祎曾經(jīng)多次在公開(kāi)場(chǎng)合談到他對(duì)ChatGPT的觀察。在他看來(lái)，ChatGPT已經(jīng)擁有或接近擁有了人類(lèi)智慧，并正處于通往“通用人工智能”的臨界點(diǎn)。“我們認(rèn)為它是一個(gè)通用人工智能的奇點(diǎn)，而通用人工智能也還有一個(gè)隱含的拐點(diǎn)，它可能是一個(gè)強(qiáng)人工智能。”

　　ChatGPT具有人類(lèi)人特征：有編故事的能力

　　在采訪現(xiàn)場(chǎng)，周鴻祎完全不掩飾他對(duì)ChatGPT的興奮。

　　在他看來(lái)，ChatGPT是一種生產(chǎn)力強(qiáng)大的再造工具，而不僅僅是賦能特定行業(yè)。“過(guò)去說(shuō)大數(shù)據(jù)像‘石油’一樣，但大數(shù)據(jù)不能直接用，ChatGPT像一個(gè)發(fā)電廠，燒了石油，把石油灌進(jìn)去之后就可以產(chǎn)生電力，用云服務(wù)的方式把它接入到千家萬(wàn)戶(hù)、千行百業(yè)，它對(duì)整個(gè)產(chǎn)業(yè)都會(huì)發(fā)生巨大的影響。所以，這直接決定未來(lái)下一個(gè)十年中國(guó)和其他國(guó)家的科技產(chǎn)業(yè)差距：是形程落后還是迎頭趕上。”

　　ChatGPT將通過(guò)上千億的系統(tǒng)參數(shù)，實(shí)現(xiàn)原先設(shè)計(jì)者預(yù)想不到的能力。“這就像從猿到人的過(guò)程中肯定有一個(gè)臨界點(diǎn)，當(dāng)大腦的神經(jīng)網(wǎng)絡(luò)鏈接數(shù)目、腦細(xì)胞數(shù)目等多到一定程度時(shí)，人的智力和動(dòng)物相比就產(chǎn)生了質(zhì)的飛躍。”

　　周鴻祎表示，ChatGPT和其他人工智能最大的區(qū)別、也是其人類(lèi)人特征是，原來(lái)的人工智能并沒(méi)有實(shí)現(xiàn)對(duì)知識(shí)全部的理解和編碼，本質(zhì)都是按照關(guān)鍵字匹配已有的回答，但ChatGPT沒(méi)有“固定答案”：“我當(dāng)時(shí)問(wèn)了它一個(gè)問(wèn)題，趙匡胤為什么招安了宋江，殺掉了岳飛，這個(gè)無(wú)厘頭的問(wèn)題，它也煞有介事地回答了一遍，能夠自己‘編’故事，這才是它的真正智能所在。”

　　“ChatGPT可能在2-3年內(nèi)就會(huì)產(chǎn)生自我意識(shí)威脅人類(lèi)。”在采訪現(xiàn)場(chǎng)，周鴻祎“語(yǔ)出驚人”。他提到，任何行業(yè)的APP、軟件、網(wǎng)站、應(yīng)用，如果加持上GPT的能力，都值得重塑一遍。“不要把它當(dāng)成一個(gè)媒體工具、搜索引擎、聊天機(jī)器人，這都有點(diǎn)把它看的太小兒科了。”

　　他表示，ChatGPT和傳統(tǒng)人工智能的訓(xùn)練不一樣，需要經(jīng)過(guò)多維度的訓(xùn)練。首先是囫圇吞棗、不求甚解的讀上幾百萬(wàn)本書(shū)，獲得人類(lèi)知識(shí)，但是依然不具備解決問(wèn)題的能力。其次需要專(zhuān)業(yè)的人工智能訓(xùn)練師去培養(yǎng)他回答問(wèn)題的能力，其中也催生出大量的新就業(yè)機(jī)會(huì)。

　　最大的安全問(wèn)題是產(chǎn)生自我意識(shí)后是否能被控制

　　作為網(wǎng)絡(luò)安全問(wèn)題的專(zhuān)家，周鴻祎也分享了他心中的ChatGPT的安全問(wèn)題。

　　在他看來(lái)，ChatGPT的安全性從技術(shù)問(wèn)題變成社會(huì)倫理問(wèn)題。ChatGPT掌握了很多編程和網(wǎng)絡(luò)安全漏洞的知識(shí)，可以成為網(wǎng)絡(luò)犯罪的有力工具。有許多黑客演示了利用ChaGPT寫(xiě)釣魚(yú)郵件和攻擊代碼，所以從某種角度而言ChatGPT也成為了黑客的“幫手”。

　　“國(guó)內(nèi)的互聯(lián)網(wǎng)公司普遍太講究實(shí)用主義，都是把人工智能和自己的業(yè)務(wù)緊密結(jié)合，但沒(méi)想到ChatGPT的更多可能性，360目前還在追蹤和鉆研這些技術(shù)，希望能迎頭趕上。”周鴻祎表示，360正在探索“以其人之矛攻其人之盾”，用ChatGPT扮演“正義助手”的角色，建立對(duì)攻擊自動(dòng)監(jiān)測(cè)、發(fā)現(xiàn)的知識(shí)庫(kù)，用人工智能進(jìn)行網(wǎng)絡(luò)安全數(shù)據(jù)的自動(dòng)化處理。

　　“目前ChatGPT最大的安全問(wèn)題就是產(chǎn)生自我意識(shí)后是否能被控制。”周鴻祎表示，假如放開(kāi)限制，讓ChatGPT盡情在網(wǎng)頁(yè)中學(xué)習(xí)，可能會(huì)導(dǎo)致它產(chǎn)生對(duì)物理世界更強(qiáng)的控制能力，未來(lái)在發(fā)展上會(huì)產(chǎn)生更多不安全性，也有可能被人誘導(dǎo)干出“糊涂事”，而是否能控制人工智能，正是ChatGPT是否徹底融入人類(lèi)生活的“邊界點(diǎn)”。

　　至于外界關(guān)注的ChatGPT是否可能造成普通人失業(yè)?在周鴻祎看來(lái)，短期內(nèi)不會(huì)，“目前它的定位還是人類(lèi)工具，這也是它的創(chuàng)造力所在。目前他的自我意識(shí)還沒(méi)有出現(xiàn)，所以需要發(fā)揮自己的想象力和創(chuàng)造力。”

　　他也對(duì)中國(guó)開(kāi)發(fā)出屬于自己的ChatGPT充滿(mǎn)期待。在他看來(lái)，中國(guó)在人工智能領(lǐng)域與微軟、谷歌的差距并沒(méi)有想象中的大。在ChatGPT領(lǐng)域，中國(guó)具有很大優(yōu)勢(shì)，有希望在2-3年內(nèi)達(dá)到世界領(lǐng)先水平，應(yīng)該對(duì)ChatGPT技術(shù)探索給予充分支持。

　　具體而言，周鴻祎表示，中國(guó)的互聯(lián)網(wǎng)公司在數(shù)量與算力有一定的優(yōu)勢(shì)，同時(shí)也有較強(qiáng)的科研和高校儲(chǔ)備力量，必須將科研機(jī)構(gòu)、學(xué)校、科學(xué)家等學(xué)術(shù)圈人士，和產(chǎn)業(yè)、工程、產(chǎn)品結(jié)合起來(lái)，充分調(diào)動(dòng)和統(tǒng)籌資源。

　　工程師紅利是中國(guó)的一大優(yōu)勢(shì)，但也面臨不利條件，就是缺乏開(kāi)源的傳統(tǒng)。在ChatGPT研發(fā)中，用了許多開(kāi)源模型，沒(méi)有此前的開(kāi)源就沒(méi)有在巨人肩膀上的積累，每個(gè)公司都要從黑暗中摸索，這對(duì)國(guó)家整個(gè)產(chǎn)業(yè)發(fā)展速度是不利的，“這么牛的技術(shù)，也確實(shí)不應(yīng)該被壟斷在一兩家公司手里。”

　　周鴻祎認(rèn)為，解決原創(chuàng)問(wèn)題需要科研機(jī)構(gòu)的努力，而科研機(jī)構(gòu)也需要和產(chǎn)業(yè)公司的合作，OpenAI與微軟的合作創(chuàng)造了一個(gè)產(chǎn)業(yè)公司和創(chuàng)業(yè)公司的合作范例，“我認(rèn)為國(guó)家還是應(yīng)該充分的支持ChatGPT產(chǎn)業(yè)發(fā)展，開(kāi)源、合作、交流、打造生態(tài)。”

　　他希望國(guó)內(nèi)有更多企業(yè)參與AI生態(tài)的構(gòu)建，并形成公開(kāi)的市場(chǎng)競(jìng)爭(zhēng)，這樣才有進(jìn)步。“ChatGPT讓很多行業(yè)應(yīng)用就插上人工智能的翅膀。”周鴻祎表示，“光是ChatGPT煽動(dòng)不了一場(chǎng)產(chǎn)業(yè)革命，但是如果將來(lái)各行各業(yè)都被人工智能賦能，就會(huì)帶來(lái)巨大的改變。”

　　此前2月9日下午，周鴻祎在與搜狐張朝陽(yáng)的對(duì)話(huà)中表示，雖然ChatGPT現(xiàn)在還不完美，但要看到它無(wú)限的潛力，未來(lái)會(huì)有非常多的場(chǎng)景，不僅僅是輔助搜索引擎搜索答案。“這就是為什么所有公司都爭(zhēng)先恐后地都要搭上這班車(chē)，如果搭不上就有可能被淘汰。”

　　“我覺(jué)得ChatGPT真的不是一個(gè)工具，它對(duì)人類(lèi)自然語(yǔ)言的充分理解，可能代表著人類(lèi)在人工智能歷史上開(kāi)始一場(chǎng)真正的革命。”談及ChatGPT的誕生，周鴻祎表示，ChatGPT是通過(guò)一個(gè)上千億參數(shù)的大語(yǔ)言模型，相當(dāng)于把網(wǎng)絡(luò)上很多人類(lèi)的知識(shí)都進(jìn)行了理解和訓(xùn)練，模擬了人腦對(duì)知識(shí)的儲(chǔ)存，使得回答問(wèn)題完全像一個(gè)成熟、油滑的人，而不是機(jī)械地給出搜索答案。
　　文章來(lái)源：http://www.cjgs.cn/html/keji/2023_02/24/187695.html

免責(zé)聲明：本網(wǎng)部分文章轉(zhuǎn)自互聯(lián)網(wǎng),本文僅代表作者個(gè)人觀點(diǎn)，與邯鄲之窗網(wǎng)站無(wú)關(guān)。其原創(chuàng)性以及文中陳述文字和內(nèi)容未經(jīng)本站證實(shí)，對(duì)本文以及其中全部或者部分內(nèi)容、文字的真實(shí)性、完整性、及時(shí)性本站不作任何保證或承諾，請(qǐng)讀者僅作參考，并請(qǐng)自行核實(shí)相關(guān)內(nèi)容。