“需要高度自動化和推理能力的問題，可以利用大模型的優勢來解決。”

原標題：大模型搜廣推，“新瓶裝舊酒"還是“范式的革新”?
文章來源：AI前線
內容字數：13273字

AICon 2024 北京站：大模型應用架構的探索與實踐

AICon 全球人工智能開發與應用大會 2024 北京站的“大模型應用架構的探索與實踐”專題圓桌交流，探討了大模型技術在應用架構中的創新與實踐，以及其在互聯網傳統應用（如搜索、廣告、推薦系統等）中的結合是否構成范式革新，以及落地過程中面臨的挑戰和解決方案。

1. 大模型應用：范式革新還是新瓶裝舊酒？

對于大模型是否帶來范式革新，與會專家觀點存在差異。百度資深工程師施劉遠認為，大模型帶來了增量信息，但推薦過程仍基于原有流程，尚未形成全新范式。而京東算法總監張澤華則認為，生成式 AI 帶來了新的 scaling law 增長曲線，實現了超過兩位數的增長，是范式革新。張澤華強調，這種革新更多體現在“知識的理解”方面，而非單純的算法或模型結構變化。

2. 大模型在大型企業落地的挑戰與應對

楓清科技 AI 負責人張紅兵指出，大模型在企業落地面臨三大挑戰：數據形態多樣性，需要以數據為中心進行處理；需要結合業務痛點找到高價值場景，并構建應用支撐中心；以及對效果的高要求，需要解決大模型的幻覺和不可解釋性問題。他建議結合圖技術增強模型能力。

3. 可穿戴設備與大模型結合的架構變化

火山引擎邊緣智能技術負責人謝皓探討了可穿戴設備與大模型結合的應用架構變化。由于可穿戴設備交互能力弱、硬件限制，模型通常在云端運行或依賴手機算力。這需要提升 RTC、ASR 和 TTS 能力，并考慮云端和端側協同工作模式，以及隱私保護問題。

4. 值得升級的傳統任務和算法

專家們認為，許多傳統任務和算法值得用大模型技術重新改變。張澤華以廣告業務為例，指出預算分配、序列建模、廣告創意生成和出價策略等方面都可以利用大模型進行優化。張紅兵則分享了在制造業中利用大模型構建 HR 問答系統，逐步推進更多場景落地的經驗。謝皓提到，大模型的泛化能力可以解決傳統計算機視覺應用中數據碎片化的問題，但仍需進一步提升特定領域的精度。

5. 大模型時代算法工程師的角色轉變

與會專家普遍認為，大模型不會取代算法工程師，而是幫助他們更高效地工作。生成式 AI 會使意圖識別等任務更加高效精準，但這些任務本身仍然存在并需要解決。算力成本的下降也使得大模型技術更容易普及，關注點應該放在大模型帶來的價值創造上，而非單純的算力成本。

6. 大模型對傳統搜廣推漏斗結構的影響

關于大模型是否能突破傳統的搜廣推漏斗結構，專家們認為，目前的研究更多是將原有流程中的模型替換為新的生成式模型，而非徹底改變流程。 雖然大模型可以更有效地理解信息，但“開放環境問題”和數據受限仍然是挑戰。

總而言之，大模型技術正在深刻地改變著各個行業的應用架構，帶來新的機遇和挑戰。企業需要關注如何有效地結合自身業務場景，解決數據、效果和成本等問題，才能充分發揮大模型的潛力。

聯系作者

文章來源：AI前線
作者微信：
作者簡介：面向AI愛好者、開發者和科學家，提供大模型最新資訊、AI技術分享干貨、一線業界實踐案例，助你全面擁抱AIGC。