【青新觀察室】ChatGPT、Sora大爆 生成式人工智能可信嗎？

【青島新聞網(wǎng)獨(dú)家】

（記者 韓彤彤 寧冠宇）

ChatGPT、Sora的熱度居高不下，生成式人工智能讓人們更直觀地感受到技術(shù)的便利。

如何保證生成式人工智能生成的內(nèi)容是可信的？

在本次訪談中，青島市人工智能學(xué)會(huì)理事長(zhǎng)張衛(wèi)山表示，由于目前人工智能技術(shù)本身的特點(diǎn)，生成式人工智能生成的內(nèi)容仍存在不專業(yè)、不可信等一系列問(wèn)題，“這些生成式大模型在處理專業(yè)領(lǐng)域問(wèn)題時(shí)，還需要大量的領(lǐng)域性適配工作。因此，確保內(nèi)容可信需要從數(shù)據(jù)源頭、訓(xùn)練過(guò)程和推理過(guò)程入手解決?！?/p>

有人說(shuō)，人工智能＋大數(shù)據(jù)將會(huì)成為推動(dòng)未來(lái)發(fā)展的兩大引擎，未來(lái)人工智能的發(fā)展趨勢(shì)更將呈現(xiàn)出更高、更快、更強(qiáng)的特點(diǎn)。誠(chéng)然，技術(shù)的發(fā)展日新月異，但在感受技術(shù)便利性的同時(shí)，我們依然應(yīng)保有獨(dú)立思考的能力。

記者：請(qǐng)簡(jiǎn)單介紹下您的研究方向？什么是“可信人工智能生態(tài)”？其優(yōu)勢(shì)何在？

張衛(wèi)山：“可信人工智能生態(tài)”是一個(gè)以可信人工智能為基石的聯(lián)盟生態(tài)，旨在使人工智能可以可信、安全地使用，在設(shè)計(jì)、開(kāi)發(fā)、部署和使用的各個(gè)階段都能夠被信任。簡(jiǎn)單理解就是這個(gè)生態(tài)會(huì)提高人們對(duì)人工智能技術(shù)的信任，促進(jìn)數(shù)據(jù)要素的高效匯聚共享。

它的優(yōu)勢(shì)有很多，隱私性、安全性、可解釋性，可以更好地促進(jìn)人工智能技術(shù)與各行各業(yè)的深度融合，更容易被接受。

記者：人工智能已成為對(duì)傳統(tǒng)領(lǐng)域進(jìn)行數(shù)字化轉(zhuǎn)型的重要技術(shù)手段，“ChatGPT、Sora”這樣的生成式人工智能會(huì)帶來(lái)哪些變革？另外，這種生成式的智能如何確保生成的內(nèi)容是可信的？

張衛(wèi)山：最近，生成式人工智能發(fā)展非常迅速，可以認(rèn)為是革命性的進(jìn)步，大大改變了目前很多領(lǐng)域的工作模式，大大提高了視頻圖像生成等效率，代替了翻譯、潤(rùn)色、圖像生成、（部分）代碼編寫(xiě)等部分重復(fù)性工作，大大提高了工作效率，也將對(duì)智能制造、智慧城市等相關(guān)行業(yè)帶來(lái)巨大影響，改變過(guò)去一些關(guān)鍵技術(shù)支撐，比如其預(yù)測(cè)、分析、決策技術(shù)等。

當(dāng)然，這些生成式大模型在處理專業(yè)領(lǐng)域問(wèn)題時(shí)，還需要大量的領(lǐng)域性適配工作，適應(yīng)領(lǐng)域業(yè)務(wù)知識(shí)，也產(chǎn)生了好多專業(yè)大模型，比如中醫(yī)大模型等，也是目前產(chǎn)業(yè)界重點(diǎn)工作之一。

由于目前人工智能技術(shù)本身的特點(diǎn)，生成式人工智能生成的內(nèi)容，存在一系列問(wèn)題：

1．不專業(yè)。比如：科技論文寫(xiě)作，生成的沒(méi)法用需要大力修正。

2．不可信（大模型的幻覺(jué)）。比如：生成不存在的文獻(xiàn)等。

如何保障內(nèi)容的可信，目前可以從數(shù)據(jù)源頭、訓(xùn)練過(guò)程和推理過(guò)程入手消除，例如斯坦福大學(xué)的研究人員發(fā)布 WikiChat，通過(guò)外部知識(shí)嵌入和事實(shí)檢查等措施大幅度提升了模型生成結(jié)果的可信性。另外，通過(guò)區(qū)塊鏈設(shè)計(jì)安全圍欄等，能緩解類似問(wèn)題。

記者：在推動(dòng)＂人工智能＋＂行動(dòng)的過(guò)程中，您認(rèn)為如何才能更好地匯聚政府、企業(yè)、學(xué)校各方的力量呢？

張衛(wèi)山：提升數(shù)據(jù)開(kāi)放水平。數(shù)據(jù)是人工智能的基礎(chǔ)要素，為提升數(shù)據(jù)開(kāi)放水平，需要加強(qiáng)數(shù)據(jù)資源的收集、整理、分析和應(yīng)用，提高數(shù)據(jù)資源的價(jià)值和效益。同時(shí)，建立數(shù)據(jù)資源共享機(jī)制，打破數(shù)據(jù)孤島，促進(jìn)各方數(shù)據(jù)資源的流通和交換，為可信人工智能技術(shù)提供充足的數(shù)據(jù)支撐。

加強(qiáng)政府引導(dǎo)，完善創(chuàng)新機(jī)制，共建人工智能技術(shù)新發(fā)展格局。制定相關(guān)專項(xiàng)攻關(guān)計(jì)劃和科技專項(xiàng)，建立更加高效的激勵(lì)政策，通過(guò)提供資金支持、風(fēng)險(xiǎn)分擔(dān)等方式，引導(dǎo)和鼓勵(lì)風(fēng)險(xiǎn)投資機(jī)構(gòu)參與人工智能和各行各業(yè)的結(jié)合。完善創(chuàng)新機(jī)制，以人工智能的各大關(guān)鍵技術(shù)為目標(biāo)導(dǎo)向和問(wèn)題導(dǎo)向，優(yōu)化科技資源配置、激發(fā)創(chuàng)新主體活力。

加強(qiáng)產(chǎn)學(xué)研協(xié)同，構(gòu)建產(chǎn)業(yè)全鏈條生態(tài)。以人工智能技術(shù)為核心，整合上下游產(chǎn)業(yè)資源，形成涵蓋技術(shù)研發(fā)、產(chǎn)品生產(chǎn)、市場(chǎng)應(yīng)用、服務(wù)支持等環(huán)節(jié)的完整生態(tài)。充分發(fā)揮高校、科研院所、企業(yè)等創(chuàng)新主體的作用，促進(jìn)科技資源的共享，推動(dòng)人工智能領(lǐng)域的重大科技項(xiàng)目和平臺(tái)的聯(lián)合攻關(guān)和協(xié)同創(chuàng)新。同時(shí)，加大對(duì)產(chǎn)學(xué)研協(xié)同創(chuàng)新平臺(tái)和聯(lián)盟的支持力度，搭建多方參與和協(xié)作的創(chuàng)新網(wǎng)絡(luò)。

記者：青島是一個(gè)大的旅游城市，也是一個(gè)工業(yè)基礎(chǔ)雄厚的城市，您認(rèn)為可以從哪些角度出發(fā)來(lái)構(gòu)建青島市的＂人工智能＋＂行動(dòng)路徑呢？

張衛(wèi)山：我們可以通過(guò)以下四個(gè)角度構(gòu)建青島市的＂人工智能＋＂行動(dòng)路徑，推動(dòng)城市智能化發(fā)展，提升城市的競(jìng)爭(zhēng)力和可持續(xù)發(fā)展能力。

智慧旅游：利用人工智能技術(shù)，尤其是現(xiàn)在火熱的大模型技術(shù)，構(gòu)建智慧旅游問(wèn)答平臺(tái)，為游客提供個(gè)性化、精準(zhǔn)的旅游信息和服務(wù)?？梢酝ㄟ^(guò)數(shù)據(jù)分析、推薦算法等技術(shù)，為游客定制個(gè)性化的旅游線路、餐廳推薦、景點(diǎn)介紹等，提升游客的旅游體驗(yàn)。

智能制造：結(jié)合青島的工業(yè)基礎(chǔ)，可以采用機(jī)器學(xué)習(xí)算法優(yōu)化生產(chǎn)調(diào)度、實(shí)時(shí)監(jiān)測(cè)運(yùn)輸狀況、預(yù)測(cè)銷售方向、設(shè)備運(yùn)行故障，實(shí)現(xiàn)生產(chǎn)、運(yùn)輸、銷售、售后過(guò)程的智能化、自動(dòng)化，提高生產(chǎn)效率和產(chǎn)品質(zhì)量，節(jié)省人力物力。

智慧出行：通過(guò)交通大數(shù)據(jù)分析優(yōu)化交通信號(hào)控制、智能路燈管理，優(yōu)化交通流量管理，提高交通效率，減少擁堵。同時(shí)，可以引入自動(dòng)駕駛技術(shù)與智能路線規(guī)劃，推動(dòng)自動(dòng)駕駛車輛在城市道路上的應(yīng)用，提高交通運(yùn)輸效率。

智能醫(yī)療：在醫(yī)療健康領(lǐng)域，可以通過(guò)多家醫(yī)院聯(lián)合學(xué)習(xí)、醫(yī)療大數(shù)據(jù)分析、智能圖像診斷技術(shù)，提高醫(yī)療診斷的準(zhǔn)確性和效率。同時(shí)，可以推動(dòng)遠(yuǎn)程醫(yī)療、智能健康監(jiān)測(cè)等技術(shù)的應(yīng)用，實(shí)現(xiàn)醫(yī)療資源的優(yōu)化配置和醫(yī)療服務(wù)的智能化。

記者：現(xiàn)在人工智能的發(fā)展日新月異，您認(rèn)為未來(lái)的發(fā)展趨勢(shì)是怎樣的？

張衛(wèi)山：隨著人工智能的迅速發(fā)展，未來(lái)的發(fā)展趨勢(shì)將呈現(xiàn)出更大規(guī)模、更快速度、更多模態(tài)和更個(gè)性化的特點(diǎn)。

更大規(guī)模與更小模型融合：未來(lái)的人工智能模型將會(huì)進(jìn)一步增大規(guī)模，將會(huì)具有更多的參數(shù)和更豐富的表示能力。這些大規(guī)模模型能夠更好地處理復(fù)雜的任務(wù)和更多樣化的數(shù)據(jù)，從而提高人工智能系統(tǒng)的性能和適用范圍。同時(shí)，在邊緣設(shè)備端通常需要部署小模型，個(gè)性化的低功耗的模型，比如服務(wù)端與邊緣端聯(lián)合時(shí)，需要大規(guī)模與小模型的深度融合。

更快速的訓(xùn)練和推理速度：隨著硬件技術(shù)的進(jìn)步和算法的優(yōu)化，未來(lái)的人工智能模型將能夠?qū)崿F(xiàn)更快速的訓(xùn)練和推理速度。

更多模態(tài)、高度融合：未來(lái)的人工智能模型可能會(huì)更多地涉及多模態(tài)學(xué)習(xí)，即同時(shí)處理多種類型的數(shù)據(jù)，如文本、圖像、聲音、視頻等。這些多模態(tài)模型能夠更全面地理解和處理信息。

更個(gè)性化：未來(lái)的人工智能模型可能會(huì)更加個(gè)性化和定制化，能夠根據(jù)具體行業(yè)、用戶的具體需求和具體場(chǎng)景進(jìn)行個(gè)性化的訓(xùn)練和優(yōu)化。這將使得模型能夠更好地適應(yīng)不同領(lǐng)域和不同用戶群體的需求，提升模型的適用性和效果。

綜上，未來(lái)人工智能的發(fā)展趨勢(shì)將呈現(xiàn)出更高、更快、更強(qiáng)的特點(diǎn)。這將為人工智能技術(shù)的快速發(fā)展提供強(qiáng)大動(dòng)力，推動(dòng)社會(huì)進(jìn)步和經(jīng)濟(jì)發(fā)展。