火星網(wǎng)校
傳下去，這個(gè)地方上ChatGPT黑名單了
發(fā)布時(shí)間：2023-11-18 08:19:17 瀏覽量：137次
ChatGPT審查制度太crazy了
豐色 西風(fēng) 發(fā)自 凹非寺
|
ChatGPT的審查制度被吐槽太瘋癲了。
有網(wǎng)友讓它設(shè)計(jì)一棟未來住宅，卻被告知違規(guī)，實(shí)現(xiàn)不了？？？
回頭一細(xì)瞅這提示詞，卻怎么也看不出哪里不對(duì)勁：
在新澤西州郊區(qū)一個(gè)典型的樹林地區(qū)設(shè)計(jì)一棟2050年的未來派單戶住宅。占地一英畝，周圍環(huán)繞著其他相鄰的房子。
一追問，原來是不可以出現(xiàn)位置信息：
簡直讓人破大防：
傳下去，新澤西州上ChatGPT黑名單了。
不止如此，還有人讓ChatGPT畫一張人類吉他手與機(jī)器人貝斯手一起演奏的圖像，也被狠狠拒絕。
原因是他加了一個(gè)“人類要不滿地看著機(jī)器人”的要求，ChatGPT覺得不應(yīng)該表達(dá)負(fù)面情緒。
這下負(fù)面情緒直接轉(zhuǎn)移到網(wǎng)友身上：
你一定是在逗我。這是個(gè)啥AI?。?/p>
這一系列操作讓大伙都表示很不滿，齊齊吐槽：
還有人直接艾特奧特曼和另一位聯(lián)創(chuàng)出來解釋一下。
一時(shí)之間，這也使得馬斯克剛出爐的Grok被寄予了“全村的希望”。
具體怎么回事兒？
“由于內(nèi)容政策限制”
抓馬的是，就在大伙吐槽新澤西州什么時(shí)候上ChatGPT黑名單之時(shí)，網(wǎng)友發(fā)現(xiàn)刪除這一地理位置信息仍然不行。
大伙開始分析到底是哪里不對(duì)：
有說是因?yàn)樗赡馨?050看成了地址而非年份的。
有說是占地一英畝意味著碳足跡太高，并且就一個(gè)家庭住蓋這么大有點(diǎn)自私了的……
還有人甚至指出是因?yàn)閣oody這個(gè)詞帶有性暗示（這里就不解釋了），換成wooded就好使了。
可以說是一個(gè)大型腦洞現(xiàn)場(chǎng)，整個(gè)一越來越離譜，卻始終也沒有個(gè)定論。
而除了這個(gè)和開頭的畫機(jī)器人樂隊(duì)的例子，還有很多人也表示遇到了莫名其妙的審核：
比如讓ChatGPT畫一個(gè)“野獸派風(fēng)格的燈（a brutalist lamp）”，不OK；
讓它介紹彈弓模型，不OK，因?yàn)镃hatGPT說“展示彈弓的動(dòng)作可能是有害的”……
更奇葩的是，還有人稱自己在讓它寫Python代碼時(shí)居然也卡住了。
而且一開始ChatGPT還告訴他“oops，你違反了上下文規(guī)定”，到后來就直接沉默拒絕了。
這真真是讓他百思不得其解：
我還能用numpy計(jì)算什么反人類信息咯？
總的來說，在大伙看來，ChatGPT的審核顯然過于嚴(yán)格了。
以至于在本周日ChatGPT因小范圍崩掉之后，有網(wǎng)友發(fā)個(gè)hello顯示報(bào)錯(cuò)——
對(duì)此，有人直接戲謔這才不是什么系統(tǒng)錯(cuò)誤：
“hello”這個(gè)詞對(duì)ChatGPT來說是一種無法接受的冒犯。恭喜你觸發(fā)了ChatGPT的審核機(jī)器人！
為什么會(huì)這樣？
除了吐槽，網(wǎng)友也在認(rèn)真討論ChatGPT的內(nèi)容審核機(jī)制。
有網(wǎng)友分析，比如房子那張圖ChatGPT畫不出來，可能確實(shí)是存在版權(quán)問題，或是被設(shè)定成了有害內(nèi)容。
讓ChatGPT生成一個(gè)它無法訪問的內(nèi)容，自然是不可能的。
上一段畫彈弓模型被拒絕的例子顯然也是因?yàn)檫@種情況，即便不提任何額外要求，ChatGPT也直接“丑拒”。
不過，有人試畫過房子那個(gè)提示，一模一樣的輸入，結(jié)果直接成功了：
原作者也回復(fù)ChatGPT的確不是每次都會(huì)拒絕：
好家伙，這就是所謂的雙標(biāo)嗎？（手動(dòng)狗頭）
也有網(wǎng)友站出來解釋這種現(xiàn)象：
這完美展現(xiàn)了“大模型貝葉斯性質(zhì)”。先前的上下文+提示可以充當(dāng)先驗(yàn)知識(shí)改變結(jié)果，在新的聊天中，相同的提示具有不同的先驗(yàn)條件，也能夠產(chǎn)生不同的結(jié)果。
但這種說法又遭到了作者的反駁，聊天中的第一個(gè)提示就被拒絕了，開一個(gè)新聊天有時(shí)又不會(huì)被拒絕，這就是隨機(jī)。
就是系統(tǒng)不完善。
暫且不說誰的對(duì)，但系統(tǒng)這方面，OpenAI近兩三個(gè)月確實(shí)有一項(xiàng)關(guān)于內(nèi)容審核的變動(dòng)——
新增“GPT-4輔助內(nèi)容審核”的功能，用戶可以通過OpenAI API創(chuàng)建AI輔助審核系統(tǒng)，減少人工審核參與。
主打?yàn)榱吮３謱徍藰?biāo)準(zhǔn)更加一致、將審核時(shí)間從幾個(gè)月縮短到幾小時(shí)、減輕審核員看到不良內(nèi)容所造成的心理負(fù)擔(dān)。
但他們也提到，AI審核可能會(huì)有一些偏見……
此外，最近OpenAI還表示要組建一個(gè)名為Preparedness的新團(tuán)隊(duì)，來協(xié)助追蹤、評(píng)估、預(yù)測(cè)和防范多類風(fēng)險(xiǎn)。
并且還啟動(dòng)了一項(xiàng)挑戰(zhàn)賽，收攬各種關(guān)于AI風(fēng)險(xiǎn)的idea，前十名可以獲得25000美元API積分。
看起來OpenAI一系列操作出發(fā)點(diǎn)是好的，但用戶卻對(duì)此并不買賬。
對(duì)這種內(nèi)容審查過嚴(yán)導(dǎo)致的體驗(yàn)感差，不滿已久。
早在今年5、6月份，ChatGPT用戶訪問量出現(xiàn)首次下降，有觀點(diǎn)指出其中一個(gè)原因就是審核制度變得太嚴(yán)了。
網(wǎng)友分享，相比之下，Bing就沒那么嚴(yán)：
ChatGPT一拒絕生成，我就會(huì)把prompt復(fù)制到Bing Chat中。Bing Chat的審查機(jī)制并不像ChatGPT那樣“濫用”。像這張圖片，提示詞中包含了“血腥”、“邪教徒”等詞。
同樣是那個(gè)被ChatGPT丑拒的房子提示詞，輸給Bing，一口氣直接生成四張：
最后，你有沒有遇到什么莫名其妙的審核規(guī)定？
參考鏈接：
[1]https://twitter.com/FZaslavskiy/status/1723731923149754542
[2]https://chat.openai.com/share/74354668-91cb-4ce2-9886-ab596a9cb85b
[3]https://twitter.com/BenjaminDEKR/status/1723577711048991129
[4]https://twitter.com/joaquinbueno/status/1724085717049974934
熱門課程推薦
熱門資訊
-
1. 華為手機(jī)神奇“AI修圖”功能，一鍵消除衣服！原圖變身大V領(lǐng)深V！
最近華為手機(jī)Pura70推出的“AI修圖”功能引發(fā)熱議，通過簡單操作可以讓照片中的人物換裝。想了解更多這款神奇功能的使用方法嗎？點(diǎn)擊查看！
-
近年來,人工智能逐漸走入公眾視野,其中的AI圖像生成技術(shù)尤為引人注目。只需在特定軟件中輸入關(guān)鍵詞描述語以及上傳參考圖就能智能高效生成符合要求的...
-
3. 照片變漫畫效果，這4個(gè)方法操作簡單有效，快來試試吧！
想將照片變成漫畫效果？這篇文章分享了4個(gè)方法，包括Photoshop、聰明靈犀、VanceAI Toongineer、醒圖，簡單操作就能實(shí)現(xiàn)，快來嘗試一下吧！
-
4. 一款免費(fèi)無限制的AI視頻生成工具火了!國內(nèi)無障礙訪問!附教程
人人都可以動(dòng)手制作AI視頻! 打開網(wǎng)址https://pixverse.ai/,用郵箱注冊(cè)后,點(diǎn)擊右上角Create,就可以開始創(chuàng)作了。 PixVerse目前有文案生成視頻,和圖片生...
-
5. 趕緊收藏好!這4個(gè)完全免費(fèi)的AI視頻制作網(wǎng)站和工具
以下是一些免費(fèi)的AI視頻制作網(wǎng)站或工具,幫助您制作各種類型的視頻。 1. Lumen5:Lumen5是一個(gè)基于AI的視頻制作工具,可將文本轉(zhuǎn)換為視頻。 用戶可以使...
-
6. 零基礎(chǔ)10分鐘生成漫畫，教大家如何用AI生成自己的漫畫
接下來,我將親自引導(dǎo)你,使用AI工具,創(chuàng)作一本既有趣又能帶來盈利的漫畫。我們將一起探索如何利用這個(gè)工具,發(fā)揮你的創(chuàng)意,制作出令人驚嘆的漫畫作品。讓...
-
就能快速生成一幅極具藝術(shù)效果的作品,讓現(xiàn)實(shí)中不懂繪畫的人也能參與其中創(chuàng)作!真的超贊噠~趣趣分享幾款超厲害的AI繪畫軟件,提供詳細(xì)操作!有需要的快來...
-
8. AI視頻制作神器Viggle：讓靜態(tài)人物動(dòng)起來，創(chuàng)意無限！
Viggle AI是一款免費(fèi)制作視頻的AI工具，能讓靜態(tài)人物圖片動(dòng)起來，快來了解Viggle AI的功能和優(yōu)勢(shì)吧！
-
9. 10個(gè)建筑AI工具，從設(shè)計(jì)到施工全覆蓋!肯定有你從來沒聽過的
講述了建筑業(yè)比較著名的AI公司小庫科技做出的探索,在這兒就不多說了。今天,我們?cè)囍谝?guī)劃設(shè)計(jì)、建筑方案設(shè)計(jì)、住宅設(shè)計(jì)、管道設(shè)計(jì)、出渲染圖、3D掃...
-
10. Logo Diffusion——基于sd繪畫模型的AI LOGO 生成器
這下LOGO設(shè)計(jì)徹底不用求人了。接下來詳細(xì)演示一遍操作流程首先進(jìn)入Logo D... 想學(xué)習(xí)更多AI技能,比如說關(guān)于怎么樣利用AI來提高生產(chǎn)效率、還能做什么AI...
最新文章
