2024中國(guó)生成式AI大會(huì)上海站：AI Infra峰會(huì)精彩演講全景回顧

大模型迎拐點(diǎn)時(shí)刻，AI Infra賽道開卷，AI落地加速！

原標(biāo)題：2024中國(guó)生成式AI大會(huì)上海站圓滿收官，第二日AI Infra峰會(huì)演講精華一文看盡
文章來(lái)源：智東西
內(nèi)容字?jǐn)?shù)：12470字

2024中國(guó)生成式AI大會(huì)回顧

2024中國(guó)生成式AI大會(huì)（上海站）于12月6日?qǐng)A滿落幕。為期兩天的大會(huì)吸引了超過(guò)4000人報(bào)名，1200位觀眾到場(chǎng)，線上觀看人次更是超過(guò)104萬(wàn)。此次大會(huì)以“智能躍進(jìn) 創(chuàng)造無(wú)限”為主題，匯聚了51位來(lái)自產(chǎn)學(xué)研投的嘉賓，交流生成式AI的技術(shù)創(chuàng)新與商業(yè)應(yīng)用。

1. AI Infra的崛起

大會(huì)的AI Infra峰會(huì)上，嘉賓們探討了AI基礎(chǔ)設(shè)施在當(dāng)前生成式AI發(fā)展中的重要性。上海交通大學(xué)的戴國(guó)浩教授強(qiáng)調(diào)了提升單位算力的token吞吐效率，并提出軟硬件協(xié)同優(yōu)化的必要性。此外，北電數(shù)智的郭文分享了如何通過(guò)AI工廠填補(bǔ)國(guó)產(chǎn)算力供給與需求的斷層，推進(jìn)智算中心的發(fā)展。

2. 技術(shù)分享與行業(yè)挑戰(zhàn)

多位嘉賓分享了各自的技術(shù)創(chuàng)新及應(yīng)對(duì)行業(yè)挑戰(zhàn)的方案。阿里云的叢培巖介紹了靈駿智算集群的設(shè)計(jì)，強(qiáng)調(diào)了高穩(wěn)定性的GPU集群在AI企業(yè)全球布局中的重要性。與此同時(shí)，光羽芯辰的周強(qiáng)提到個(gè)人大模型的快速發(fā)展，將解決現(xiàn)有大模型的局限。

3. RAG與向量數(shù)據(jù)庫(kù)的機(jī)遇

在下午的討論中，嘉賓們探討了RAG（Retrieval-Augmented Generation）與向量數(shù)據(jù)庫(kù)的結(jié)合。騰訊云的謝宇介紹了其向量數(shù)據(jù)庫(kù)的優(yōu)化措施，提升了召回率，助力企業(yè)挖掘數(shù)據(jù)價(jià)值。英飛流的張穎峰則認(rèn)為，長(zhǎng)文本大模型和RAG將長(zhǎng)期共存，需解決推理成本和內(nèi)存消耗的挑戰(zhàn)。

4. 未來(lái)展望與合作共贏

大會(huì)最后，嘉賓們一致認(rèn)為，生成式AI產(chǎn)業(yè)化落地需要上中下游全產(chǎn)業(yè)鏈的合作與共贏。隨著AI技術(shù)的不斷演進(jìn)，行業(yè)參與者需緊密合作，共同推動(dòng)技術(shù)進(jìn)步與商業(yè)化落地。期待2025年更多線下大會(huì)的召開，持續(xù)關(guān)注生成式AI的發(fā)展動(dòng)態(tài)。

聯(lián)系作者

文章來(lái)源：智東西
作者微信：
作者簡(jiǎn)介：智能產(chǎn)業(yè)新媒體！智東西專注報(bào)道人工智能主導(dǎo)的前沿技術(shù)發(fā)展，和技術(shù)應(yīng)用帶來(lái)的千行百業(yè)產(chǎn)業(yè)升級(jí)。聚焦智能變革，服務(wù)產(chǎn)業(yè)升級(jí)。