放棄幻想！ChatBI其實跟你想的不一樣｜甲子光年

想上線一個ChatBI，都需要關(guān)注什么？

原標(biāo)題：放棄幻想！ChatBI其實跟你想的不一樣｜甲子光年
文章來源：甲子光年
內(nèi)容字?jǐn)?shù)：8039字

ChatBI落地實踐：帆軟FineChatBI團(tuán)隊的經(jīng)驗分享

本文總結(jié)了帆軟FineChatBI團(tuán)隊在ChatBI項目中的實踐經(jīng)驗，旨在幫助企業(yè)少走彎路，成功落地ChatBI應(yīng)用。文章重點關(guān)注技術(shù)路線選擇、用戶群體定位、落地準(zhǔn)備以及上線后的持續(xù)運營等方面。

一、技術(shù)路線選擇：LLM寫SQL不可靠

1. **精度問題：**LLM寫SQL的精度難以達(dá)到業(yè)務(wù)用戶可接受的水平（75%-80%）。LLM的“幻覺”問題在結(jié)構(gòu)化數(shù)據(jù)應(yīng)用中會被放大，導(dǎo)致結(jié)果錯誤。FineChatBI選擇將用戶問題轉(zhuǎn)化為清晰的查詢語言，利用OLAP分析操作指令集調(diào)用FineBI底座，模擬人工拖拉拽生成圖表，大幅提升精度。

2. **性能問題：**LLM寫SQL的響應(yīng)時間通常過長（6-15秒），難以滿足用戶體驗需求。FineChatBI通過小尺寸語析模型處理清晰語義，大尺寸LLM處理模糊語義，實現(xiàn)更快的響應(yīng)速度（清晰語義0.2秒，模糊語義2秒）。

3. **可信性問題：**LLM寫SQL生成的SQL語句難以被業(yè)務(wù)用戶理解和調(diào)試。FineChatBI提供可讀的圖表生成規(guī)則，允許用戶調(diào)整參數(shù)，并結(jié)合FineBI底座支持更復(fù)雜的分析需求，提升可信性和易用性。

二、ChatBI落地：并非開箱即用

1. **真場景至關(guān)重要：**ChatBI項目需要找到真實的業(yè)務(wù)痛點和需求，避免盲目套用。建議與業(yè)務(wù)團(tuán)隊深入溝通，了解其日常取數(shù)場景和遇到的問題，再制定解決方案。

2. **底層準(zhǔn)備：數(shù)據(jù)和知識至關(guān)重要：**LLM不擅長數(shù)據(jù)加工，因此需要準(zhǔn)備高質(zhì)量的數(shù)據(jù)，包括避免字段名歧義、數(shù)據(jù)冗余以及確保字段類型正確等。同時，需要進(jìn)行知識配置，包括同義詞和企業(yè)獨有知識，以提高理解準(zhǔn)確性。

3. **組織驅(qū)動力：明確角色和責(zé)任：**ChatBI項目需要領(lǐng)導(dǎo)、產(chǎn)品經(jīng)理和IT部門的共同參與。產(chǎn)品經(jīng)理是核心角色，負(fù)責(zé)項目規(guī)劃、用戶需求收集、內(nèi)部推廣等。建議先從小規(guī)模試點開始，逐步推廣，避免一開始就應(yīng)用于高層管理。

三、正式上線前的關(guān)注點

1. **安全性：**需要具備企業(yè)級權(quán)限控制能力，并考慮LLM的本地化部署。

2. **算力成本：**選擇合適的LLM模型尺寸，平衡效果和成本。

3. **持續(xù)運營投入：**需要持續(xù)迭代和優(yōu)化，以應(yīng)對用戶數(shù)增加、數(shù)據(jù)范圍擴(kuò)大等情況對精度的影響。

四、對LLM的理性看待

ChatBI是一個企業(yè)級應(yīng)用，LLM只是其中一種技術(shù)手段。成功的ChatBI需要綜合考慮穩(wěn)定性、性能、成本等因素，謹(jǐn)慎選擇技術(shù)方案。LLM并非萬能，需要結(jié)合其他技術(shù)，才能更好地解決業(yè)務(wù)問題。

總而言之，成功的ChatBI落地需要充分準(zhǔn)備，選擇合適的技術(shù)路線，并重視持續(xù)運營和迭代優(yōu)化。 它不僅僅是簡單的“快速問數(shù)”，更應(yīng)該幫助業(yè)務(wù)用戶完成個性化的分析工作，創(chuàng)造真正的業(yè)務(wù)價值。

聯(lián)系作者

文章來源：甲子光年
作者微信：
作者簡介：甲子光年是一家科技智庫，包含智庫、社群、企業(yè)服務(wù)版塊，立足中國科技創(chuàng)新前沿陣地，動態(tài)跟蹤頭部科技企業(yè)發(fā)展和傳統(tǒng)產(chǎn)業(yè)技術(shù)升級案例，推動人工智能、大數(shù)據(jù)、物聯(lián)網(wǎng)、云計算、新能源、新材料、信息安全、大健康等科技創(chuàng)新在產(chǎn)業(yè)中的應(yīng)用與落地。