火星網(wǎng)校
超火迷你GPT-4視覺能力暴漲，GitHub兩萬(wàn)星，華人團(tuán)隊(duì)出品
發(fā)布時(shí)間：2023-11-28 14:54:20 瀏覽量：109次
只需一個(gè)簡(jiǎn)單指令
白交 發(fā)自 凹非寺
|
GPT-4V來(lái)做目標(biāo)檢測(cè)？網(wǎng)友實(shí)測(cè)：還沒有準(zhǔn)備好。
雖然檢測(cè)到的類別沒問(wèn)題，但大多數(shù)邊界框都錯(cuò)放了。
沒關(guān)系，有人會(huì)出手！
那個(gè)搶跑GPT-4看圖能力幾個(gè)月的迷你GPT-4升級(jí)啦——MiniGPT-v2。
而且只是一句簡(jiǎn)單指令：[grounding] describe this image in detail就實(shí)現(xiàn)的結(jié)果。
不僅如此，還輕松處理各類視覺任務(wù)。
圈出一個(gè)物體，提示詞前面加個(gè) [identify] 可讓模型直接識(shí)別出來(lái)物體的名字。
當(dāng)然也可以什么都不加，直接問(wèn)~
MiniGPT-v2由來(lái)自MiniGPT-4的原班人馬（KAUST沙特阿卜杜拉國(guó)王科技大學(xué)）以及Meta的五位研究員共同開發(fā)。
上次MiniGPT-4剛出來(lái)就引發(fā)巨大關(guān)注，一時(shí)間服務(wù)器被擠爆，如今GItHub項(xiàng)目已超22000+星。
此番升級(jí)，已經(jīng)有網(wǎng)友開始用上了~
多視覺任務(wù)的通用界面
大模型作為各文本應(yīng)用的通用界面，大家已經(jīng)司空見慣了。受此靈感，研究團(tuán)隊(duì)想要建立一個(gè)可用于多種視覺任務(wù)的統(tǒng)一界面，比如圖像描述、視覺問(wèn)題解答等。
「如何在單一模型的條件下，使用簡(jiǎn)單多模態(tài)指令來(lái)高效完成各類任務(wù)？」成為團(tuán)隊(duì)需要解決的難題。
簡(jiǎn)單來(lái)說(shuō)，MiniGPT-v2由三個(gè)部分組成：視覺主干、線性層和大型語(yǔ)言模型。
該模型以ViT視覺主干為基礎(chǔ)，所有訓(xùn)練階段都保持不變。從ViT中歸納出四個(gè)相鄰的視覺輸出標(biāo)記，并通過(guò)線性層將它們投影到 LLaMA-2語(yǔ)言模型空間中。
團(tuán)隊(duì)建議在訓(xùn)練模型為不同任務(wù)使用獨(dú)特的標(biāo)識(shí)符，這樣一來(lái)大模型就能輕松分辨出每個(gè)任務(wù)指令，還能提高每個(gè)任務(wù)的學(xué)習(xí)效率。
訓(xùn)練主要分為三個(gè)階段：預(yù)訓(xùn)練——多任務(wù)訓(xùn)練——多模式指令調(diào)整。
最終，MiniGPT-v2 在許多視覺問(wèn)題解答和視覺接地基準(zhǔn)測(cè)試中，成績(jī)都優(yōu)于其他視覺語(yǔ)言通用模型。
最終這個(gè)模型可以完成多種視覺任務(wù)，比如目標(biāo)對(duì)象描述、視覺定位、圖像說(shuō)明、視覺問(wèn)題解答以及從給定的輸入文本中直接解析圖片對(duì)象。
感興趣的朋友，可戳下方Demo鏈接體驗(yàn)：
https://minigpt-v2.github.io/
https://huggingface.co/spaces/Vision-CAIR/MiniGPT-v2
論文鏈接：https://arxiv.o?rg/abs/2310.09478
GitHub鏈接：https://github.com/Vision-CAIR/MiniGPT-4
參考鏈接：https://twitter.com/leoyerrrr
熱門課程推薦
熱門資訊
-
1. 華為手機(jī)神奇“AI修圖”功能，一鍵消除衣服！原圖變身大V領(lǐng)深V！
最近華為手機(jī)Pura70推出的“AI修圖”功能引發(fā)熱議，通過(guò)簡(jiǎn)單操作可以讓照片中的人物換裝。想了解更多這款神奇功能的使用方法嗎？點(diǎn)擊查看！
-
2. 四款值得推薦的AI以圖生圖軟件，有需要的趕緊來(lái)試試!
近年來(lái),人工智能逐漸走入公眾視野,其中的AI圖像生成技術(shù)尤為引人注目。只需在特定軟件中輸入關(guān)鍵詞描述語(yǔ)以及上傳參考圖就能智能高效生成符合要求的...
-
3. 照片變漫畫效果，這4個(gè)方法操作簡(jiǎn)單有效，快來(lái)試試吧！
想將照片變成漫畫效果？這篇文章分享了4個(gè)方法，包括Photoshop、聰明靈犀、VanceAI Toongineer、醒圖，簡(jiǎn)單操作就能實(shí)現(xiàn)，快來(lái)嘗試一下吧！
-
4. 一款免費(fèi)無(wú)限制的AI視頻生成工具火了!國(guó)內(nèi)無(wú)障礙訪問(wèn)!附教程
人人都可以動(dòng)手制作AI視頻! 打開網(wǎng)址https://pixverse.ai/,用郵箱注冊(cè)后,點(diǎn)擊右上角Create,就可以開始創(chuàng)作了。 PixVerse目前有文案生成視頻,和圖片生...
-
5. 趕緊收藏好!這4個(gè)完全免費(fèi)的AI視頻制作網(wǎng)站和工具
以下是一些免費(fèi)的AI視頻制作網(wǎng)站或工具,幫助您制作各種類型的視頻。 1. Lumen5:Lumen5是一個(gè)基于AI的視頻制作工具,可將文本轉(zhuǎn)換為視頻。 用戶可以使...
-
6. 零基礎(chǔ)10分鐘生成漫畫，教大家如何用AI生成自己的漫畫
接下來(lái),我將親自引導(dǎo)你,使用AI工具,創(chuàng)作一本既有趣又能帶來(lái)盈利的漫畫。我們將一起探索如何利用這個(gè)工具,發(fā)揮你的創(chuàng)意,制作出令人驚嘆的漫畫作品。讓...
-
就能快速生成一幅極具藝術(shù)效果的作品,讓現(xiàn)實(shí)中不懂繪畫的人也能參與其中創(chuàng)作!真的超贊噠~趣趣分享幾款超厲害的AI繪畫軟件,提供詳細(xì)操作!有需要的快來(lái)...
-
8. AI視頻制作神器Viggle：讓靜態(tài)人物動(dòng)起來(lái)，創(chuàng)意無(wú)限！
Viggle AI是一款免費(fèi)制作視頻的AI工具，能讓靜態(tài)人物圖片動(dòng)起來(lái)，快來(lái)了解Viggle AI的功能和優(yōu)勢(shì)吧！
-
9. 10個(gè)建筑AI工具，從設(shè)計(jì)到施工全覆蓋!肯定有你從來(lái)沒聽過(guò)的
講述了建筑業(yè)比較著名的AI公司小庫(kù)科技做出的探索,在這兒就不多說(shuō)了。今天,我們?cè)囍谝?guī)劃設(shè)計(jì)、建筑方案設(shè)計(jì)、住宅設(shè)計(jì)、管道設(shè)計(jì)、出渲染圖、3D掃...
-
10. Logo Diffusion——基于sd繪畫模型的AI LOGO 生成器
這下LOGO設(shè)計(jì)徹底不用求人了。接下來(lái)詳細(xì)演示一遍操作流程首先進(jìn)入Logo D... 想學(xué)習(xí)更多AI技能,比如說(shuō)關(guān)于怎么樣利用AI來(lái)提高生產(chǎn)效率、還能做什么AI...
最新文章
