這兩天在看設(shè)計(jì)上海2023，論壇與展會(huì)展品不乏與AIGC相關(guān)的內(nèi)容。比如：

• 在是否將AIGC引入設(shè)計(jì)流程的問題上，可以看到有事務(wù)所、設(shè)計(jì)師在測(cè)試、使用生成式AI工具，不過主要是作為輔助設(shè)計(jì)工具。有設(shè)計(jì)師提出一個(gè)好的設(shè)計(jì)除了要有設(shè)想，還必須有策略、計(jì)劃與執(zhí)行，AIGC工具目前主要被用于創(chuàng)意靈感探索，在策略、計(jì)劃與執(zhí)行上，尤其是在分析判斷創(chuàng)意實(shí)現(xiàn)的最佳解決方式等策略問題上，還無法取代設(shè)計(jì)師；也有設(shè)計(jì)師對(duì)AIGC內(nèi)容知識(shí)產(chǎn)權(quán)權(quán)利歸屬與維權(quán)問題表示顧慮。
• AI生成內(nèi)容是否可以直接進(jìn)入生產(chǎn)制造環(huán)節(jié)也是需要考慮的問題?，F(xiàn)場(chǎng)看到有家居品牌表示“可以將您的AI概念產(chǎn)品進(jìn)行設(shè)計(jì)優(yōu)化，為天馬行空的創(chuàng)意提供落地的可能性，做真正意義上的定制化服務(wù)”。進(jìn)行設(shè)計(jì)優(yōu)化的必要性其實(shí)不難理解，概念設(shè)計(jì)需要找到機(jī)器設(shè)備進(jìn)行制造加工，即使是已經(jīng)引入柔性生產(chǎn)線或者3D打印生產(chǎn)線的制造商也未必能完全滿足客戶個(gè)性化的定制需求，需要根據(jù)自身生產(chǎn)能力進(jìn)行設(shè)計(jì)優(yōu)化。現(xiàn)場(chǎng)也看到有設(shè)計(jì)公司、新材料制造商和家居品牌展出3D打印產(chǎn)品與解決方案，比如科勒衛(wèi)浴的3D打印臺(tái)盆，不過都是設(shè)計(jì)師主導(dǎo)作品。逛展時(shí)還沒注意到有特別介紹工藝流程是AI設(shè)計(jì)到成品交付的。

同天的北京安博會(huì)，用媒體報(bào)道的話說就是“大模型應(yīng)用扎推、AI攝像頭滿場(chǎng)”：

• 安防領(lǐng)域的企業(yè)往往基于各種感知設(shè)備擁有強(qiáng)大的數(shù)據(jù)獲取能力，在AI大模型等前沿技術(shù)的研發(fā)應(yīng)用上有天然優(yōu)勢(shì)。
• 展會(huì)現(xiàn)場(chǎng)有不少企業(yè)推出通用或行業(yè)大模型，比如杭州聯(lián)匯展出百億參數(shù)視覺語言認(rèn)知大模型及相關(guān)服務(wù)，支持語義定義下發(fā)任務(wù)，具備泛化識(shí)別和推理能力；熵基科技BioCV LLM包括140億/70億/13億等多個(gè)參數(shù)規(guī)模的版本，支持多語言表達(dá)與理解、持續(xù)繪畫、邏輯推理等能力；360現(xiàn)場(chǎng)展示基于360智腦-視覺大模型的應(yīng)用，demo顯示其具有文字識(shí)別能力和圖片識(shí)別能力——視覺問答支持通過一張圖片以及提出關(guān)于圖片的一個(gè)問題，系統(tǒng)輸出相應(yīng)的答案。
• 在應(yīng)用場(chǎng)景方面，除了在傳統(tǒng)安防領(lǐng)域的應(yīng)用，大模型+AIoT應(yīng)用場(chǎng)景廣闊，比如，宇視展出的梧桐AI算法訓(xùn)練平臺(tái)、AIoT行業(yè)大模型，據(jù)稱已落地多模態(tài)-Vlog智能影像等AIGC場(chǎng)景。

從廠商們展出的產(chǎn)品及解決方案來看，生成式人工智能在模型參數(shù)、數(shù)據(jù)輸入和輸出方面呈現(xiàn)大模型、多模態(tài)和涌現(xiàn)性等特征，對(duì)現(xiàn)有算法監(jiān)管帶來挑戰(zhàn)：

• 模型參數(shù)規(guī)模巨大且呈爆炸式增長(zhǎng)，超大規(guī)模的參數(shù)量可以提升算法決策的準(zhǔn)確性，但是同時(shí)也降低了算法的可解釋性，進(jìn)而直接影響算法透明性治理；
• 大模型從文字識(shí)別發(fā)展到能夠同時(shí)接受圖像和文本類型的輸入，后者對(duì)大模型的信息鑒別能力要求更高，在預(yù)防偏見與歧視等算法公平治理方面挑戰(zhàn)也更大；
• 在參數(shù)規(guī)模、數(shù)據(jù)量突破某個(gè)量級(jí)時(shí)，可能會(huì)出現(xiàn)大模型性能顯著提升、涌現(xiàn)出令人意想不到的能力，比如語言理解能力、生成能力、邏輯推理能力（最近大家用的比較多的描述可能是“一本正經(jīng)胡說八道”的能力），這種涌現(xiàn)特性雖然會(huì)增強(qiáng)人工智能的認(rèn)知性、擴(kuò)展多場(chǎng)景應(yīng)用的潛能，但同樣也會(huì)帶來難以量化、難以檢測(cè)、難以救濟(jì)的算法妨害風(fēng)險(xiǎn)?，F(xiàn)有主體責(zé)任制+場(chǎng)景化監(jiān)管的現(xiàn)有監(jiān)管模式即使可以滿足事后追責(zé)要求，也因缺乏有效的事前預(yù)防、事中監(jiān)督等具有預(yù)防性、時(shí)效性、實(shí)效性措施而難以應(yīng)對(duì)算法妨害效應(yīng)。

這些特征在行業(yè)研報(bào)、白皮書等文件中也有所體現(xiàn)，比如，IDC《2022中國(guó)大模型發(fā)展白皮書》中寫道，“以谷歌的BERT、OpenAI的GPT和百度文心大模型為代表，參數(shù)規(guī)模逐步提升至千億、萬億……”（現(xiàn)在通用性AI大模型M6已有十萬億級(jí)），“繼語言模態(tài)之后，視覺大模型等其他模態(tài)的大模型研究，也開始逐步受到重視”，“單模態(tài)的大模型被統(tǒng)一整合起來，模擬人腦多模態(tài)感知的大模型出現(xiàn)，推動(dòng)了從AI感知到認(rèn)知的發(fā)展”，也就是推動(dòng)從弱人工智能到強(qiáng)人工智能的發(fā)展。

除此以外，最大的挑戰(zhàn)還是算法治理模式本身的挑戰(zhàn)：

• 我國(guó)的AI算法治理依托算法主體責(zé)任展開，現(xiàn)有算法責(zé)任主體主要是算法推薦服務(wù)者和深度合成服務(wù)提供者，基于算法規(guī)定、深度合成規(guī)定等識(shí)別相關(guān)主體責(zé)任義務(wù)的邊界、明確違規(guī)后果，本身并不難。問題是，算法推薦服務(wù)者、深度合成服務(wù)提供者往往也是監(jiān)管視野下的平臺(tái)企業(yè)，算法主體責(zé)任是平臺(tái)主體責(zé)任構(gòu)成的一部分，如何處理平臺(tái)主體責(zé)任、平臺(tái)主體的算法安全主體責(zé)任、承擔(dān)責(zé)任的方式方法等等，還需要更為明確的監(jiān)管規(guī)則。
• 算法規(guī)定本身針對(duì)算法推薦服務(wù)者、深度合成服務(wù)提供者，而人工智能相關(guān)的大模型風(fēng)險(xiǎn)不僅可能源于研發(fā)主體，也可能源于部署算法模型的部署者以及終端使用者，當(dāng)應(yīng)當(dāng)承擔(dān)主體責(zé)任的對(duì)象呈多元化、分散化、場(chǎng)景化特征時(shí)，僅界定服務(wù)提供者的主體責(zé)任，難以滿足追責(zé)與風(fēng)險(xiǎn)處理需求。

舉個(gè)例子，前面我們寫過生成式人工智能相關(guān)的產(chǎn)業(yè)鏈至少可以分為數(shù)據(jù)層、算力層、算法模型層和應(yīng)用層。位于產(chǎn)業(yè)鏈上游的研發(fā)主體，能夠控制技術(shù)基礎(chǔ)設(shè)置、對(duì)模型進(jìn)行訓(xùn)練/修改和測(cè)試；其下游主體可對(duì)大模型微調(diào)后，將其嵌入特定的應(yīng)用或服務(wù)，面向終端用戶提供服務(wù)；終端用戶輸入數(shù)據(jù)會(huì)反哺模型，推動(dòng)模型進(jìn)化與發(fā)展，甚至推動(dòng)模型“黑化”。在這一過程中，算法推薦服務(wù)提供者、深度合成服務(wù)提供者以及終端內(nèi)容生產(chǎn)者的責(zé)任界定需要更明確的規(guī)則。

也就是說，現(xiàn)有算法治理機(jī)制主要是基于算法作為工具、產(chǎn)品/服務(wù)的屬性而設(shè)計(jì)，更適配弱人工智能監(jiān)管需求，隨著算法智能化、類人化特性的不斷涌現(xiàn)，監(jiān)管滯后性、實(shí)效性等問題會(huì)越發(fā)突出。

此外，算法主體責(zé)任+場(chǎng)景化監(jiān)管的模式可能會(huì)無法滿足AIGC監(jiān)管需求——預(yù)訓(xùn)練大模型已經(jīng)成為人工智能基礎(chǔ)設(shè)施的情況下，預(yù)訓(xùn)練大模型依托其研發(fā)的插件系統(tǒng)可深度集成與各項(xiàng)應(yīng)用程序，催生新業(yè)務(wù)場(chǎng)景、新業(yè)態(tài)。AIGC+模式下，分行業(yè)、分場(chǎng)景的監(jiān)管模式可能會(huì)效率低下。

明天結(jié)合大模型技術(shù)特征具體看一下算法治理問題。

參考：

智東西公眾號(hào)，2023年6月8日發(fā)表的《2023安博會(huì)五大看點(diǎn)：大模型應(yīng)用扎推、AI攝像頭滿場(chǎng)，海思低調(diào)參展》

https://marketplace.huaweicloud.com/markets/holosensstore/index.html

IDC《2022中國(guó)大模型發(fā)展白皮書》（由百度支持）

哈爾濱工業(yè)大學(xué)自然語言處理研究所2023年3月6日發(fā)布的《ChatGPT調(diào)研報(bào)告（僅供內(nèi)部參考）》

新華社研究院中國(guó)企業(yè)發(fā)展研究中心，2023年6月發(fā)布的《人工智能大模型體驗(yàn)報(bào)告》

微軟研究院2023年3月發(fā)布的《人工通用智能的星星之火：GPT-4的早期實(shí)驗(yàn)》

艾瑞咨詢2023年4月發(fā)布的《ChatGPT浪潮下，看中國(guó)大語言模型產(chǎn)業(yè)發(fā)展》