AIGC動態歡迎閱讀
內容摘要:
作者 | 澄潭、望宸
在網絡通信中扮演著諸多角色,包括數據轉發、協議轉化、負載均衡、訪問控制和身份驗證、安全防護、內容審核,以及服務和 API 顆粒度的管控等,因此常見的種類有流量、安全、微服務、API 等。在不同語義下,的命名也會有所不同,例如 K8s 體系下,有 ingress ,在 Sping 體系下,有 Spring Cloud Gateway。但不論如何命名,的管控內容幾乎都離不開流量、服務、安全和 API 這 4 個維度,只是功能側重不同、所遵循的協議有差異。
另外,隨著互聯網從 Web 2.0 邁進到 AI 時代,用戶和互聯網的交互方式,AI 時代下互聯網的內容生產流程都發生了顯著的轉變,這對基礎設施(Infra)提出了新的訴求,也帶來了新的機遇。Infra 包含的內容非常豐富,本文僅從層面分享筆者的所見所感所悟。
我們先來看一些 AI 時代出現的新場景和新需求:
相比傳統 Web 應用,LLM 應用的內容生成時間更長,對話連續性對用戶體驗至關重要,如果避免后端插件更新導致的服務中斷?
相比傳統 Web 應用,LLM 應用在服務端處
原文鏈接:AI 時代,更能打了?
聯系作者
文章來源:AI前線
作者微信:ai-front
作者簡介:面向AI愛好者、開發者和科學家,提供大模型最新資訊、AI技術分享干貨、一線業界實踐案例,助你全面擁抱AIGC。
? 版權聲明
文章版權歸作者所有,未經允許請勿轉載。
相關文章
暫無評論...