LangChain：2024 年 AI 應用開發報告

原標題：LangChain：2024 年 AI 應用開發報告
文章來源：特工宇宙
內容字數：4355字

LangChain 2024 年 LLM 應用開發趨勢洞察

LangChain 生態系統在 2024 年蓬勃發展，其一體化 LLM 應用開發平臺 LangSmith 吸引了近百萬用戶注冊。通過分析 LangSmith 上數百萬次 LLM 應用追蹤數據，我們對 LLM 應用開發的趨勢有了更清晰的認識。本文將分享一些關鍵發現，展現 LLM 應用構建的實踐演進。

基礎設施：開源模型崛起與部署方式多元化

OpenAI 依然占據 LLM 提供商榜首，但開源模型的勢頭不容小覷。Ollama 和 Groq 等開源模型提供商快速崛起，進入前五名。Ollama 專注本地部署，Groq 則側重云端部署，這體現了開發者對靈活部署和定制化基礎設施日益增長的需求。開源模型的整體使用率約占前 20 名 LLM 提供商的 20%，顯示出其在 LLM 應用開發中的重要性。

數據存儲：向量數據庫的應用與選擇

在檢索技術方面，Chroma 和 FAISS 依然是最受歡迎的向量數據庫。Milvus、MongoDB 和 Elastic 等數據庫也躋身前十，顯示出向量數據庫市場的多樣化發展。這反映了開發者對高效存儲和檢索向量數據的日益重視，以支持更復雜的 LLM 應用。

應用構建：Agent 模式興起與復雜工作流的構建

LangChain 用戶構建的應用越來越多樣化，從簡單的問答到復雜的 Agent 工作流，創新層出不窮。 Agent 模式應用日益普及，LangChain 自研的 Agent 框架 LangGraph 的使用率達到 43%，體現了開發者對構建更智能、更自主的 Agent 的興趣。工具調用的平均次數大幅增加，從 2023 年的 0.5 次增加到 2024 年的 21.9%，這表明 Agent 能夠更有效地與外部系統交互，完成更復雜的任務。

開發工具與語言：Python 繼續領先，JavaScript 增長迅速

Python 仍然是 LLM 應用開發的主導語言，占據 84.7% 的市場份額。然而，JavaScript 的使用量增長了三倍，達到 15.3%，這與 Web 應用開發的增長趨勢相符。開發者對不同編程語言的需求日益多樣化。

可觀測性：超越 LangChain 框架

盡管 LangChain 是許多 LLM 應用開發的核心，但 15.7% 的 LangSmith 用戶來自非 LangChain 框架。這表明，無論使用何種框架，對 LLM 應用的可觀測性需求都在增加，開發者需要有效地監控和調試其應用。

性能與優化：更復雜、更高效的應用

每個追蹤的平均步驟數從 2023 年的 2.8 步增加到 2024 年的 7.7 步，顯示應用復雜性顯著提升。然而，平均 LLM 調用次數的增長相對較慢，這表明開發者更注重優化，在減少 LLM 調用次數的同時實現更復雜的功能，從而降低成本。

測試與評估：自動化測試和迭代改進

開發者越來越重視測試和評估。LangSmith 的評估功能被廣泛用于自動化測試，并通過收集用戶反饋來迭代改進應用。相關性、正確性、精確匹配度和有用性是開發者測試中最關注的維度。通過人類反饋的迭代，開發者能夠創建更強大、更可靠的 LLM 應用。帶有注釋的運行次數增長了 18 倍，這表明開發者積極利用人類反饋來改進其模型。

總結：邁向更智能、更高效、更可靠的 LLM 應用

2024 年 LLM 應用開發呈現出向更復雜、更高效、更可靠的方向發展趨勢。Agent 模式的興起、開源模型的普及、以及對可觀測性和測試的重視，都推動著 LLM 應用生態的不斷成熟。未來，我們期待看到開發者如何探索更智能的工作流，構建更強大的 LLM 應用。

聯系作者

文章來源：特工宇宙
作者微信：
作者簡介：Agent Universe，專注于智能體的AI科技媒體。