【CSDN 編者按】

OpenAI 的新通用聊天機器人原型 ChatGPT 可謂是風靡一時，但卻突遭 StackOverflow 封禁。

整理 | 劉春霖       責編 | 張紅月

出品 | CSDN（ID：CSDNnews）

在上週釋出的《挑戰 Google 搜尋？OpenAI 釋出最強 AI 對話系統 ChatGPT》一

文中曾介紹過，ChatGPT 正處於測試階段（chat。openai。com），只要有 OpenAI 賬戶就可以免費使用。萬萬沒想到，此超級對話模型一經開放，很多人便深陷其中，無法自拔。

寫得了程式碼、改得了 Bug，小說、段子統統不再話下，甚至在

一名叫 Zac Denham 工程師的引導下，還寫出了毀滅人類的計劃書……

就連 OpenAI 背後的投資者馬斯克也不忘調侃一句，”很多人瘋狂地陷入了 ChatGPT 迴圈中。”

筆者在 ChatGPT 上也進行了提問：

很明顯，這是一個很官方的回答。

它在解決各種問題上的能力使其可以成為 Goo

gle 等搜尋引擎和 Stack Overflow 等程式設計問答社群的部分替代。雖然許多使用者對 ChatGPT 的功能印象深刻，但 Stack Overflow 上也湧入了大量用 ChatGPT 生成的問題答案。

Stack Overflow 稱 ChatGPT 答案的正確率非常低，因此對整個網站以及尋求正確答案的使用者來說是有害的。

例如，要求 ChatGPT 寫一個公眾人物的傳記，它可能會很自信地插入不正確的傳記資料。

再比如要求它解釋如何為特定功能編

寫軟體程式，它同樣可以生成可信但最終不正確的程式碼。如果使用者被發現使用 ChatGPT 回答問題，他們可能會受到禁止繼續發帖的懲罰。

所以，這個 5 天使用者突破百萬的模型突遭

Stack Overflow

封禁。

Stack Overflow 臨時封殺 ChatGPT

Stack Overflow 在官方通告中表示：這是一個臨時性規定，目的是為了應對目前論壇上 ChatGPT 生成內容的泛濫之勢。

透過內容，做出這項規定的主要原因是，使用者試用一段時間後，很快發現，雖

然 ChatGPT 以接近人類的方式回答提示，但它自動生成的答案質量太低，錯誤太多。並且 ChatGPT 有時會給出看似合理但不正確或荒謬的答案。

OpenAI 的 CEO Sam Altman 也曾在 Twitter 上表示“自週三才上線的 ChatGPT，短短几天它的使用者已經突破 100 萬大關。

對於目前這一問題，我們

正在嘗試阻止它隨機編造，現階段的問題是有些棘手。但隨著時間的推移，我們會根據使用者反饋來改進它，也相信它會變得更好！”

ChatGPT 在生成答案中因有太多低質量的答案湧入，已經“淹沒”了高質量管理基礎設施。接下來，Stack Overflow 將繼續圍繞 ChatGPT 和其他類似工具的具體要求，但具體決定日期以及限制的內容尚不明確。

網友都有哪些看法？

而對於這個決定，網友們也紛紛留出了自己的觀點。

幹得好！很高興有這樣正確的決定，希望它不是臨時性的。靠 AI 短時間內根本不可能生成完全正確的答案：

也有人表示：它不應該是臨時措施。

也有網友表示“為

什麼 Stack Overflow 禁止用 AI 生成答案？”

還有專業人士也對此表達了自己的看法“禁止這樣的內容是正確的事情，不過稽核的人能做什麼呢？上面的帖子上也說這些 AI 生成的答案可能看起來像個高質量答案，但這些無法判斷是不是 ChatGPT 生成的。”

無論 AI 生成的答案是否正確，“Stack Overflow 是一個面向專業程式設計師和程式設計師愛好者的問答網站。”這適用於問和答部分。在我看來，那些只是將問答覆制或從 AI 工具中貼上的人並不算這兩種人。即使他們檢查和測試它，如果他們真的能證明這是一個很好的正確答案，他們應該能夠自己寫出來。這並不一定意味

著在網際網路上沒有（或不會有） AI 的一席之地，但它似乎不屬於這裡。

無論是對於網友的回答，還是專業人士的解釋，從語言模型的角度來說它是非常

成熟的，但對於 AI 生成知識類內容來說並不容易。

為什麼 ChatGPT 會出現那麼多錯誤？

幾天的時間，網友們意識到透過此模型短短几秒就可以生成答案，簡直是不浪費任何力氣。

但是為什麼它會出現錯誤呢？很明顯，出於語言模型的侷限性，只能在網上抓取相關答案，無法作出思考和推理，所以就造成了 ChatGPT 回答的錯誤。

比如：網友問 ChatGPT，霍布斯主張三權分立嗎？

很明顯回答的很好，但它的回答卻是錯誤的。因此，在 ChatGPT 有 2 個明顯的缺點：

輸入不能有錯

解釋不夠人性化

對於 AI 答案的輸出還有待考察，無論是對於答案的抓取還是輸出的機率性，都是需要有正確的稽核。ChatGPT 的研究團隊也表示將根據使用者反饋持續改進模型，未來還有很長的道路要走。

參考連結：

https：//META。stackoverflow。com/questions/421831/temporary-policy-chatgpt-is-banned

https：//www。theverge。com/2022/12/5/23493932/chatgpt-ai-generated-answers-temporarily-banned-stack-overflow-llms-dangers

https：//www。zdnet。com/article/stack-overflow-temporarily-bans-answers-from-openais-chatgpt-chatbot/

https：//www。solidot。org/story？sid=73555

https：//twitter。com/sama/status/1599668808285028353

炒股開戶享福利，入金抽188元紅包，100%中獎！

開啟App看更多精彩內容