AIGC動態(tài)歡迎閱讀

原標題：突破大型語言模型輸入字符限制的方法有了！

關鍵字：上下文,維度,模型,研究者,位置

文章來源：夕小瑤科技說

內容字數(shù)：8409字

內容摘要：夕小瑤科技說 分享來源 | 機器之心我們知道在使用 GPT 和 LLaMA 等大型語言模型時，輸入的 prompt 存在字符數(shù)限制，比如 ChatGPT 目前的輸入字符限制是 4096 個字符。這會限制上下文學習和思維鏈等技術的發(fā)揮空間，畢竟用戶只能提供有限的示例數(shù)量。近日，Nous Research、EleutherAI 和日內瓦大學的一個研究團隊提出了一種擴展上下文窗口的方案 YaRN ，并在…

原文鏈接：點此閱讀原文：突破大型語言模型輸入字符限制的方法有了！

聯(lián)系作者

文章來源：夕小瑤科技說

作者微信：xixiaoyaoQAQ

作者簡介：更快的AI前沿，更深的行業(yè)洞見。聚集25萬AI應用開發(fā)者、算法工程師和研究人員。一線作者均來自清北、國外頂級AI實驗室和互聯(lián)網(wǎng)大廠，兼?zhèn)涿襟wsense與技術深度。