LLM將成歷史？開源bGPT或顛覆深度學習范式：直接模擬二進制，開啟模擬數字世界新紀元！

AIGC動態歡迎閱讀

原標題：LLM將成歷史？開源bGPT或顛覆深度學習范式：直接模擬二進制，開啟模擬數字世界新紀元！
關鍵字：模型,字節,數據,圖像,序列
文章來源：新智元
內容字數：8352字

內容摘要：

新智元報道編輯：LRS
【新智元導讀】新模型bGPT是一個基于字節的Transformer模型，能夠將不同類型的數據納入同一框架之下，可以生成文本、圖像和音頻，還能模擬計算機行為，數字世界將迎來真正的大一統？微軟亞洲研究院推出的最新成果bGPT，這種基于字節的Transformer模型，為我們探索數字世界開辟了新的大門。
與傳統的基于詞表的語言模型不同，bGPT的獨特之處在于其對原始二進制數據的直接處理能力，不受特定格式或任務的限制，其目標是全面模擬數字世界。論文：https://arxiv.org/abs/2402.19155
代碼：https://github.com/sanderwood/bgpt
模型：https://huggingface.co/sander-wood/bgpt
項目主頁：https://byte-gpt.github.io
研究團隊在其論文中展示了bGPT在建模上的巨大潛力，通過字節級處理，bGPT不僅能生成文本、圖像和音頻，還能模擬計算機行為——從格式轉換算法到CPU狀態的建模。將所有數據視為字節序列的做法，使bGPT能夠將不同類型的數據納入同一框架之下

原文鏈接：LLM將成歷史？開源bGPT或顛覆深度學習范式：直接模擬二進制，開啟模擬數字世界新紀元！

聯系作者

文章來源：新智元
作者微信：AI_era
作者簡介：智能+中國主平臺，致力于推動中國從互聯網+邁向智能+新紀元。重點關注人工智能、機器人等前沿領域發展，關注人機融合、人工智能和機器人對人類社會與文明進化的影響，領航中國新智能時代。