RAG還是微調？微軟出了一份特定領域大模型應用建設流程指南

AIGC動態(tài)歡迎閱讀

原標題：RAG還是微調？微軟出了一份特定領域大模型應用建設流程指南
關鍵字：模型,報告,問題,本文,答案
文章來源：機器之心
內容字數(shù)：11807字

內容摘要：

機器之心報道
編輯：rome檢索增強生成（RAG）和微調（Fine-tuning）是提升大語言模型性能的兩種常用方法，那么到底哪種方法更好？在建設特定領域的應用時哪種更高效？微軟的這篇論文供你選擇時進行參考。在構建大語言模型應用程序時通常有兩種常見的方法來整合專有和特定領域的數(shù)據(jù)：檢索增強生成和微調。檢索增強生成通過外部數(shù)據(jù)增強提示，而微調將額外的知識整合到模型本身中。不過，對這兩種方法的優(yōu)缺點了解的卻不夠充分。
本文中，來自微軟的研究者引入一個新的關注點：為需要特定背景和自適應響應的行業(yè)（農業(yè)）創(chuàng)建 AI 助手。本文提出了一個全面的大語言模型流程，用于生成高質量的、行業(yè)特定的問題和答案。該方法包含一個系統(tǒng)化的過程，包括鑒別和收集涵蓋廣泛農業(yè)主題的相關文檔。接著清理和結構化這些文檔，以便使用基本的 GPT 模型生成有意義的問答對。生成的問答對隨后根據(jù)其質量進行評估和篩選。
本文的目標是為特定行業(yè)創(chuàng)建有價值的知識資源，以農業(yè)為案例研究，最終的目標是能為 LLM 在農業(yè)領域的發(fā)展做出貢獻。論文地址：https://arxiv.org/pdf/2401.08406.pdf
論文標題：RAG

原文鏈接：RAG還是微調？微軟出了一份特定領域大模型應用建設流程指南

聯(lián)系作者

文章來源：機器之心
作者微信：almosthuman2014
作者簡介：專業(yè)的人工智能媒體和產業(yè)服務平臺