新聞分析:ChatGPT,變革與風(fēng)險(xiǎn)
新華社北京2月13日電 新聞分析:ChatGPT,變革與風(fēng)險(xiǎn)
新華社記者彭茜 黃堃
美國(guó)人工智能公司OpenAI的大語(yǔ)言模型ChatGPT在推出約兩個(gè)月后,1月已達(dá)到1億月活躍用戶(hù),成為歷史上增長(zhǎng)最快的消費(fèi)者應(yīng)用程序。相關(guān)專(zhuān)家預(yù)計(jì),ChatGPT不僅是新一代聊天機(jī)器人的突破,也將為信息產(chǎn)業(yè)帶來(lái)巨大變革,但由此帶來(lái)的學(xué)術(shù)造假、技術(shù)濫用、輿論安全等風(fēng)險(xiǎn)亦不容忽視。
新一代操作系統(tǒng)平臺(tái)的雛形
多語(yǔ)言撰寫(xiě)充滿想象力的詩(shī)歌,編寫(xiě)可運(yùn)行的程序,快速生成論文摘要,自動(dòng)制作數(shù)據(jù)表格,糾正文章中的語(yǔ)法和表達(dá)錯(cuò)誤,把一周大事寫(xiě)成新聞綜述……ChatGPT不僅能理解很多人類(lèi)問(wèn)題和指令,流暢展開(kāi)多輪對(duì)話,也在越來(lái)越多領(lǐng)域顯示出解決多種通用問(wèn)題的能力。
ChatGPT還輕松通過(guò)一些對(duì)人類(lèi)難度較高的專(zhuān)業(yè)級(jí)測(cè)試:它新近通過(guò)了谷歌編碼L3級(jí)(入門(mén)級(jí))工程師測(cè)試;分別以B和C+的成績(jī)通過(guò)了美國(guó)賓夕法尼亞大學(xué)沃頓商學(xué)院MBA的期末考試和明尼蘇達(dá)大學(xué)四門(mén)課程的研究生考試;通過(guò)了美國(guó)執(zhí)業(yè)醫(yī)師資格考試……業(yè)界形容它的誕生是人工智能時(shí)代的“iPhone時(shí)刻”,意味著人工智能迎來(lái)革命性轉(zhuǎn)折點(diǎn)。
“ChatGPT的成功不應(yīng)僅僅被看作新一代聊天機(jī)器人的突破,而應(yīng)該重視其對(duì)人工智能乃至整個(gè)信息產(chǎn)業(yè)帶來(lái)的革命。”北京智源人工智能研究院院長(zhǎng)黃鐵軍接受記者專(zhuān)訪時(shí)說(shuō),人工智能領(lǐng)域的過(guò)去十年是深度學(xué)習(xí)的十年,但產(chǎn)業(yè)總體上并沒(méi)有出現(xiàn)移動(dòng)互聯(lián)網(wǎng)和云計(jì)算級(jí)別的爆發(fā),“ChatGPT的出現(xiàn),具有劃時(shí)代意義,大模型+ChatGPT已形成新一代操作系統(tǒng)平臺(tái)的雛形”。
黃鐵軍說(shuō),ChatGPT在技術(shù)路徑上采用了“大數(shù)據(jù)+大算力+強(qiáng)算法=大模型”路線,又在“基礎(chǔ)大模型+指令微調(diào)”方向探索出新范式,其中基礎(chǔ)大模型類(lèi)似大腦,指令微調(diào)是交互訓(xùn)練,兩者結(jié)合實(shí)現(xiàn)逼近人類(lèi)的語(yǔ)言智能。ChatGPT應(yīng)用了“基于人類(lèi)反饋的強(qiáng)化學(xué)習(xí)”訓(xùn)練方式,用人類(lèi)偏好作為獎(jiǎng)勵(lì)信號(hào)訓(xùn)練模型,促使模型越來(lái)越符合人類(lèi)的認(rèn)知理解模式。
“這樣的AI可幫助人類(lèi)進(jìn)行真實(shí)創(chuàng)造,尤其是幫助人類(lèi)提高創(chuàng)造效率,比如提高獲取信息的效率或提出新穎想法,再由人解決其真實(shí)性問(wèn)題。創(chuàng)造效率的提高將產(chǎn)生巨大效益和多方面影響,可以改變世界信息化格局!敝袊(guó)科學(xué)技術(shù)大學(xué)機(jī)器人實(shí)驗(yàn)室主任陳小平對(duì)記者說(shuō)。
引發(fā)新一輪人工智能科技競(jìng)賽
ChatGPT的問(wèn)世正在人工智能領(lǐng)域引發(fā)新一輪科技競(jìng)賽。北京時(shí)間2月8日凌晨,微軟推出由ChatGPT支持的最新版本必應(yīng)搜索引擎和Edge瀏覽器,宣布要“重塑搜索”。微軟旗下Office、Azure云服務(wù)等所有產(chǎn)品都將全線整合ChatGPT。
北京時(shí)間2月7日凌晨,谷歌也發(fā)布了基于谷歌LaMDA大模型的下一代對(duì)話AI系統(tǒng)Bard。同一天,百度官宣正在研發(fā)的大模型類(lèi)項(xiàng)目“文心一言”,計(jì)劃在3月完成內(nèi)測(cè),隨后對(duì)公眾開(kāi)放。阿里巴巴、京東等中國(guó)企業(yè)也表示正在或計(jì)劃研發(fā)類(lèi)似產(chǎn)品。
人工智能大模型領(lǐng)域的全球競(jìng)爭(zhēng)已趨白熱化。黃鐵軍認(rèn)為,ChatGPT未來(lái)有望演變成新一代操作系統(tǒng)平臺(tái)和生態(tài)。這種變革似移動(dòng)互聯(lián)網(wǎng)從個(gè)人電腦到手機(jī)的轉(zhuǎn)化,大部分計(jì)算負(fù)荷將由大模型為核心的新一代信息基礎(chǔ)設(shè)施接管。這一新范式將影響從應(yīng)用到基礎(chǔ)設(shè)施各層面,引發(fā)整個(gè)產(chǎn)業(yè)格局的巨變,大模型及其軟硬件支撐系統(tǒng)的生態(tài)之爭(zhēng)將成為未來(lái)十年信息產(chǎn)業(yè)焦點(diǎn)。
值得注意的是,ChatGPT有時(shí)會(huì)“一本正經(jīng)地胡說(shuō)八道”,存在事實(shí)性錯(cuò)誤、知識(shí)盲區(qū)和常識(shí)偏差等諸多問(wèn)題,還面臨訓(xùn)練數(shù)據(jù)來(lái)源合規(guī)性、數(shù)據(jù)使用的偏見(jiàn)性、生成虛假信息、版權(quán)爭(zhēng)議等人工智能通用風(fēng)險(xiǎn)。多家全球知名學(xué)術(shù)期刊為此更新編輯準(zhǔn)則,包括任何大型語(yǔ)言模型工具都不會(huì)被接受為研究論文署名作者等。
“學(xué)術(shù)論文的署名作者須滿足至少兩個(gè)條件,其一是在論文工作中做出‘實(shí)質(zhì)性貢獻(xiàn)’,其二是能承擔(dān)相關(guān)的責(zé)任。目前這兩個(gè)條件ChatGPT(以及其他AI系統(tǒng))都不滿足!标愋∑秸f(shuō)。
ChatGPT也有應(yīng)用在輿論信息戰(zhàn)方面的潛力。加拿大麥吉爾大學(xué)研究團(tuán)隊(duì)曾使用ChatGPT前代模型GPT-2閱讀加拿大廣播公司播發(fā)的約5000篇有關(guān)新冠疫情的文章,然后要求其生成關(guān)于這場(chǎng)危機(jī)的“反事實(shí)新聞”。連OpenAI也警告使用ChatGPT的用戶(hù),它“可能偶爾會(huì)生成不正確的信息”,“產(chǎn)生有害指令或有偏見(jiàn)的內(nèi)容”。
“針對(duì)這些問(wèn)題,需要我們?cè)诎l(fā)展技術(shù)的同時(shí),對(duì)于ChatGPT應(yīng)用邊界加以管控,建立起對(duì)人工智能生成內(nèi)容的管理法規(guī),對(duì)利用人工智能生成和傳播不實(shí)不良內(nèi)容進(jìn)行規(guī)避。同時(shí)加強(qiáng)治理工具的開(kāi)發(fā),通過(guò)技術(shù)手段識(shí)別人工智能生成內(nèi)容。這對(duì)于內(nèi)容檢測(cè)和作品確權(quán),都是重要前提!北本┤鹑R智慧科技有限公司副總裁唐家渝說(shuō)。
(責(zé)任編輯:歐云海)