雖然“Does current AI represent a dead end?”這篇文章意在引發(fā)討論，但其中的某些觀點(diǎn)對(duì)軟件開(kāi)發(fā)人員來(lái)說(shuō)特別具有相關(guān)性。

原標(biāo)題：“為什么說(shuō)大模型可能是軟件開(kāi)發(fā)的死胡同？”
文章來(lái)源：AI前線
內(nèi)容字?jǐn)?shù)：4818字

引言

在《Does current AI represent a dead end?》一文中，作者David Eastman提出了一些對(duì)軟件開(kāi)發(fā)人員特別重要的觀點(diǎn)，尤其是關(guān)于當(dāng)前大語(yǔ)言模型（LLM）在軟件開(kāi)發(fā)中的局限性和挑戰(zhàn)。這篇文章旨在引發(fā)討論，探討LLM在產(chǎn)品開(kāi)發(fā)過(guò)程中的應(yīng)用，而非單純作為開(kāi)發(fā)工具。

1. LLM的不可組合性

當(dāng)前的LLM系統(tǒng)像汽車一樣被出售，用戶需為整個(gè)產(chǎn)品付費(fèi)，而無(wú)法將其視為可組合的模塊。這種不可分解性在軟件開(kāi)發(fā)中構(gòu)成了問(wèn)題，因?yàn)槿蝿?wù)應(yīng)該可以被分解，方便組件之間的協(xié)作和測(cè)試。

2. 內(nèi)部結(jié)構(gòu)的缺失

LLM缺乏與其功能緊密相關(guān)的內(nèi)部結(jié)構(gòu)，這使得它們無(wú)法作為可重用的組件進(jìn)行開(kāi)發(fā)。有效的軟件組件應(yīng)由可進(jìn)行單元測(cè)試的代碼構(gòu)成，并能夠與其他組件可靠協(xié)作。

3. 安全與隱私問(wèn)題

LLM的訓(xùn)練過(guò)程往往不公開(kāi)，導(dǎo)致其行為與訓(xùn)練數(shù)據(jù)無(wú)法分離。這種情況使得安全和隱私問(wèn)題變得更加復(fù)雜，因?yàn)槿狈τ行У姆椒▉?lái)防止敏感信息的泄露。

4. 法律與產(chǎn)權(quán)問(wèn)題

LLM在知識(shí)產(chǎn)權(quán)方面存在法律風(fēng)險(xiǎn)，因?yàn)樗鼈兛赡軙?huì)現(xiàn)有的知識(shí)產(chǎn)權(quán)，而無(wú)法證明其操作的合法性。這使得許多企業(yè)在使用LLM時(shí)面臨重大的法律挑戰(zhàn)。

5. 軟件開(kāi)發(fā)人員的應(yīng)對(duì)策略

軟件開(kāi)發(fā)人員應(yīng)保持開(kāi)放的態(tài)度，擁抱真正可解釋、可測(cè)試的AI。開(kāi)發(fā)過(guò)程中，訓(xùn)練過(guò)程應(yīng)當(dāng)是可監(jiān)控、可報(bào)告、可重復(fù)和可解釋的，以便在發(fā)現(xiàn)問(wèn)題時(shí)能夠迅速修正。

結(jié)論

盡管LLM在軟件開(kāi)發(fā)中面臨諸多挑戰(zhàn)，但未來(lái)依然有可能改變這一現(xiàn)狀。開(kāi)發(fā)人員應(yīng)當(dāng)專注于構(gòu)建可持續(xù)的開(kāi)發(fā)平臺(tái)，以應(yīng)對(duì)不斷變化的技術(shù)環(huán)境和市場(chǎng)需求。

聯(lián)系作者

文章來(lái)源：AI前線
作者微信：
作者簡(jiǎn)介：面向AI愛(ài)好者、開(kāi)發(fā)者和科學(xué)家，提供大模型最新資訊、AI技術(shù)分享干貨、一線業(yè)界實(shí)踐案例，助你全面擁抱AIGC。