AIGC動態(tài)歡迎閱讀

原標(biāo)題：周二聊：騰訊如何用大模型改造自己的業(yè)務(wù)？
關(guān)鍵字：騰訊,模型,困局,創(chuàng)業(yè)者,企業(yè)
文章來源：Founder Park
內(nèi)容字?jǐn)?shù)：1106字

內(nèi)容摘要：

本期 Workshop，我們聚焦在模型推理優(yōu)化及組織的 AI 智能化轉(zhuǎn)型。
推理成本是當(dāng)下大模型落地面臨的難題之一，整個 AI 行業(yè)都在探索如何高效利用計算資源，并行處理更多的推理請求。國內(nèi)的云廠商也都在針對現(xiàn)有的推理構(gòu)架做優(yōu)化，甚至推出新的異構(gòu)算力的解決方案。比如騰訊此前推出了大模型推理加速引擎 Taco-LLM，表現(xiàn)全面優(yōu)于 vLLM 框架，吞吐性能提高 78%。
騰訊云異構(gòu) AI 研發(fā)副總監(jiān)葉帆將分享他對大模型推理加速工具的理解與實踐。
很多企業(yè)都在關(guān)注 AI 的智能化數(shù)字轉(zhuǎn)型，我們請到了騰訊樂享產(chǎn)品資深架構(gòu)師沈林玲來做分享。
樂享源于騰訊內(nèi)部，過去 15 年是騰訊 HR、行政、企業(yè)文化、業(yè)務(wù)部門的組織學(xué)習(xí)協(xié)作平臺。2017 年開始樂享對外開放，至今服務(wù)超過 30 萬企業(yè)，涉及 100 多個細(xì)分行業(yè)。2023 年，騰訊樂享發(fā)布 AI 助手，專注于向企業(yè)提供 AI 智能化體驗。如果你關(guān)注大模型領(lǐng)域，歡迎掃碼加入我們的大模型交流群，來一起探討大模型時代的和認(rèn)知，跟上大模型時代的這股浪潮。更多閱讀
Sora 的算力困局：如果正式推出，可能需要 72 萬張 H100
10位拿到錢的A

原文鏈接：周二聊：騰訊如何用大模型改造自己的業(yè)務(wù)？

聯(lián)系作者

文章來源：Founder Park
作者微信：Founder-Park
作者簡介：來自極客公園，專注與科技創(chuàng)業(yè)者聊「真問題」。