標簽：序列

字節跳動李航 | 對大語言模型的若干思考…

來源：機器之心專欄 作者：ByteDance Research負責人李航本文闡述筆者對 LLM 的一些看法，主要觀點如下： ChatGPT 的突破主要在于規模帶來的質變和模型調教方...
閱讀原文

分類性能提高 10%，港中大團隊利用大型蛋白質語言模型發現未知的信號肽

將 ScienceAI設為星標第一時間掌握新鮮的 AI for Science 資訊編輯 | 蘿卜皮信號肽 (SP) 對于跨膜和分泌蛋白靶向并將其轉移到正確位置至關重要。許多現有的預...
閱讀原文

?丟掉注意力的擴散模型：Mamba帶火的SSM被蘋果、康奈爾盯上了

機器之心報道機器之心編輯部替代注意力機制，SSM 真的大有可為？為了用更少的算力讓擴散模型生成高分辨率圖像，注意力機制可以不要，這是康奈爾大學和蘋果的...
閱讀原文

五倍吞吐量，性能全面包圍Transformer：新架構Mamba引爆AI圈

機器之心報道編輯：張倩、蛋醬屹立不倒的 Transformer 迎來了一個強勁競爭者。在別的領域，如果你想形容一個東西非常重要，你可能將其形容為「撐起了某領域的...
閱讀原文

Transformer挑戰者出現！斯坦福CMU聯合團隊，開源模型及代碼，公司已創辦

夢晨 發自 凹非寺量子位 | 公眾號 QbitAI現在ChatGPT等大模型一大痛點：處理長文本算力消耗巨大，背后原因是Transformer架構中注意力機制的二次復雜度。Flash...
閱讀原文

顛覆Transformer霸權！CMU普林斯頓推Mamba新架構，解決致命bug推理速度暴增5倍

新智元報道編輯：編輯部【新智元導讀】誕生6周年的Transformer，霸主之位終于要被顛覆了？CMU、普林斯頓研究者發布的Mamba，解決了Transformer核心注意力層無...
閱讀原文

將合成生物學與AI相結合，以無細胞方式尋找新抗生素

將 ScienceAI設為星標第一時間掌握新鮮的 AI for Science 資訊編輯 | 蘿卜皮生物活性肽是健康和醫學的關鍵分子。深度學習為生物活性肽的發現和設計帶來了巨大...
閱讀原文

通用視覺推理顯現，UC伯克利煉出單一純CV大模型，三位資深學者參與

機器之心報道機器之心編輯部僅靠視覺（像素）模型能走多遠？UC 伯克利、約翰霍普金斯大學的新論文探討了這一問題，并展示了大型視覺模型（LVM）在多種 CV 任...
閱讀原文

計算機視覺GPT時刻！UC伯克利三巨頭祭出首個純CV大模型，推理驚現AGI火花

新智元報道編輯：編輯部【新智元導讀】UC伯克利的CV三巨頭推出首個無自然語言的純視覺大模型，第一次證明純CV模型也是可擴展的。更令人震驚的是，LVM竟然也能...
閱讀原文

Transformer變革3D建模，MeshGPT生成效果驚動專業建模師，網友：性idea

機器之心報道機器之心編輯部連續「預測下一個 token」能生成句子，同理，連續「預測下一個三角形網格」也能生成 3D 模型。在計算機圖形學中，「三角形網格」...
閱讀原文

拉妮·米歇爾Science刊文：AI能否自主學習世界模型？

導語現代認知科學認為，人類會在頭腦中構建關于周圍真實世界的抽象模型——世界模型（world model）。獲取“世界模型”的問題一直是人工智能研究的焦點。OpenAI ...
閱讀原文

30 位學者合力發表 Nature 綜述，10 年回顧解構 AI 如何重塑科研范式

By 超神經科學發現是一個復雜過程，涉及到幾個相互關聯的階段，包括形成假設、實驗設計、數據收集及分析。近年來，AI 與基礎科研的融合日益加深，借助 AI，科...
閱讀原文

大幅提升用戶行為表征通用性，螞蟻新模型獲CIKM 2023最佳應用論文獎

機器之心專欄作者：螞蟻機器智能部由美國計算機學會 ACM 主辦的 CIKM 2023 學術會議在英國伯明翰舉行，大會吸引了 8000+ 學術從業者參加，并從 235 篇應用研...
閱讀原文

重新審視Transformer：倒置更有效，真實世界預測的新SOTA出現了

機器之心報道編輯：大盤雞反轉 Transformer，變成 iTransformer。Transformer 在時間序列預測中出現了強大能力，可以描述成對依賴關系和提取序列中的多層次表...
閱讀原文

單點端到端文本檢測識別框架速度提升19倍！華科、華南理工等聯合發布SPTS v2

新智元報道編輯：LRS 好困【新智元導讀】單點文本框標注，成本顯著降低；將檢測和識別解耦，并行解碼提升自回歸速度。近年來，場景文本閱讀（Text Spotting）...
閱讀原文
1…7891011