亚洲AV免费看深爱成人|日韩av另类一级特黄片在线|中国免费一级黄片|国产av一二三区|亚洲有码AV在线|久久亚洲国产日韩欧美|成人免费AV网站|婷婷一区综合一区|亚洲AV无码导航|高级欧美成人网站

高校合作1：010-59833514 ?咨詢電話：400-810-1418 服務(wù)與監(jiān)督電話：400-810-1418轉(zhuǎn)接2

國產(chǎn)超大規(guī)模AI預(yù)訓(xùn)練模型發(fā)布，可實現(xiàn)“用圖生文”等任務(wù)

發(fā)布時間：2024-04-02 17:45:05 瀏覽量：195次

澎湃新聞記者 張唯

六出奇光動地來,西方海國見旌旗。

水心惟有終無底,火內(nèi)曾無徹上灰。

地軸迂回周八極,天球低陷不磨回。

明朝滄海成桑田,吾欲吹噓弄大灰。

以上詩句題為《詠智利日全食》，來自人工智能模型“文匯”的手筆。

人工智能模型“文匯”是北京智源人工智能研究院近日發(fā)布的一款面向認(rèn)知的超大規(guī)模新型預(yù)訓(xùn)練模型。它旨在探索解決當(dāng)前大規(guī)模自監(jiān)督預(yù)訓(xùn)練模型不具有認(rèn)知能力的問題，參數(shù)規(guī)模達(dá)113億，僅次于OpenAI1月初發(fā)布的DALL·E模型的120億參數(shù)量，是目前中國規(guī)模最大的預(yù)訓(xùn)練模型。

超大規(guī)模預(yù)訓(xùn)練模型是當(dāng)前人工智能領(lǐng)域研究的熱點。

自2020年5月，OpenAI發(fā)布迄今為止全球規(guī)模最大的預(yù)訓(xùn)練模型GPT-3以來，OpenAI、谷歌等科技公司都在持續(xù)推動大規(guī)模預(yù)訓(xùn)練模型的進一步發(fā)展。2021年1月5日，OpenAI在官方博客發(fā)布了人工智能神經(jīng)網(wǎng)絡(luò)“DALL·E”，可以通過自然語言文本直接生成對應(yīng)圖像。

據(jù)介紹，“文匯”模型能夠?qū)W習(xí)不同模態(tài)（文本和視覺領(lǐng)域為主）之間的概念，可以實現(xiàn)“用圖生文”等任務(wù)，具有一定的認(rèn)知能力。

北京智源人工智能研究院成立于2018年11月，是在科技部和北京市委市政府的指導(dǎo)和支持下，由北京市科委和海淀區(qū)政府推動成立的新型研發(fā)機構(gòu)。

“文匯”由智源研究院發(fā)起的“悟道”攻關(guān)團隊完成，團隊由智源研究院、阿里巴巴、清華大學(xué)、中國人民大學(xué)、中國科學(xué)院、搜狗、智譜.AI、循環(huán)智能等單位的科研骨干組成。

智源研究院院長、北京大學(xué)信息技術(shù)學(xué)院黃鐵軍表示，“文匯”模型針對性地設(shè)計了多任務(wù)預(yù)訓(xùn)練的方法，可以同時學(xué)習(xí)文→文、圖→文以及圖文→文等多項任務(wù)，實現(xiàn)對多個不同模態(tài)的概念理解。

“文匯”模型能夠完成多種圖文生成任務(wù)。例如，根據(jù)下面這張圖片，模型可給出描述如下描述：

旗袍是一種古典的風(fēng)格，它不僅能夠彰顯出女性優(yōu)雅氣質(zhì)，而且還具有很好的修飾身形。這款旗袍采用了經(jīng)典的圓領(lǐng)設(shè)計，穿著舒適自在，同時又能夠展現(xiàn)出女性柔美的頸部線條，讓你更加的迷人。精致的繡花工藝，使得整件衣服看起來更加的精致，也更加的凸顯出女性的魅力。

“文匯”模型還能夠生成基于人設(shè)的文本：

據(jù)悉，“文匯”模型的研究團隊在模型中提出了針對多模態(tài)認(rèn)知生成的大規(guī)模預(yù)訓(xùn)練的架構(gòu)M6：
MultiModality-to-MultiModality Multi-task Mega-Transformer。模型整體架構(gòu)基于Transformer，其中圖像進行切塊并對塊采用ResNet-50提取特征。這些特征以及對應(yīng)的position embedding讓圖像和文本能組合在一起送入模型。

智源研究院透露，目前，“文匯”已支持基于認(rèn)知推理的多種自然語言及跨模態(tài)應(yīng)用任務(wù)，部分應(yīng)用即將與搜狗、阿里巴巴、學(xué)堂在線、智譜.AI、循環(huán)智能等機構(gòu)合作上線。具體功能包括基于上傳圖片的開放域問答、用語言操作數(shù)據(jù)可視化、基于預(yù)訓(xùn)練語言模型的詩詞創(chuàng)作應(yīng)用和可控人設(shè)的開放域問答等。

責(zé)任編輯：李躍群

校對：徐亦嘉

熱門課程推薦

熱門資訊

請綁定手機號

獲取驗證碼
x

同學(xué)您好！

您已成功報名0元試學(xué)活動，老師會在第一時間與您取得聯(lián)系，請保持電話暢通！
確定