對(duì)打GPT-4！Claude 3秘密武器曝光：Claude憲法

AIGC動(dòng)態(tài)歡迎閱讀

原標(biāo)題：對(duì)打GPT-4！Claude 3秘密武器曝光：Claude憲法
關(guān)鍵字：憲法,人工智能,模型,原則,價(jià)值觀
文章來(lái)源：新智元
內(nèi)容字?jǐn)?shù)：5205字

內(nèi)容摘要：

新智元報(bào)道編輯：Henry
【新智元導(dǎo)讀】Anthropic發(fā)布最新Claude憲法，兼具標(biāo)準(zhǔn)性和靈活性。語(yǔ)言模型如何決定它將涉及哪些問(wèn)題，哪些問(wèn)題它認(rèn)為不合適涉及？為什么它會(huì)鼓勵(lì)某些行為，而阻止另一些行為？語(yǔ)言模型有哪些「價(jià)值觀」？如何讓大模型的響應(yīng)符合倫理價(jià)值觀，是一個(gè)不斷探索的永恒話題。
最近，OpenAI剛剛放出了「模型規(guī)范」，展示了團(tuán)隊(duì)如何給LLM列出「條條框框」，為其提供行為指南。
今天，Anthropic最新發(fā)布的「人工智能憲法」也給出了一個(gè)答案：
即賦予LLM由憲法確定的明確價(jià)值觀，而不是通過(guò)大規(guī)模人類反饋來(lái)確定的隱性價(jià)值觀。
雖然，這并不是一個(gè)完美的方法，但它確實(shí)讓AI系統(tǒng)的價(jià)值觀更容易理解，也讓其根據(jù)需要進(jìn)行調(diào)整。
Claude模型是Anthropic AI的最杰出的「作品」，也是經(jīng)過(guò) 「人工智能憲法」訓(xùn)練不斷完善。
自Claude推出以來(lái)，出現(xiàn)了很多關(guān)于「人工智能憲法 」如何讓Claude變得更安全、更有幫助的問(wèn)題。
接下來(lái)解釋一下：什么是人工智能憲法，Claude憲法中的價(jià)值觀是什么，以及我們是如何選擇這些價(jià)值觀的。
背景以前，人類對(duì)模型輸出的反饋，隱含地決定

原文鏈接：對(duì)打GPT-4！Claude 3秘密武器曝光：Claude憲法

聯(lián)系作者

文章來(lái)源：新智元
作者微信：AI_era
作者簡(jiǎn)介：智能+中國(guó)主平臺(tái)，致力于推動(dòng)中國(guó)從互聯(lián)網(wǎng)+邁向智能+新紀(jì)元。重點(diǎn)關(guān)注人工智能、機(jī)器人等前沿領(lǐng)域發(fā)展，關(guān)注人機(jī)融合、人工智能和機(jī)器人對(duì)人類社會(huì)與文明進(jìn)化的影響，領(lǐng)航中國(guó)新智能時(shí)代。