原標題：Transformer作者初創重磅發布Transformer2！AI模型活了，動態調整自己權重
文章來源：新智元
內容字數：6474字

Sakana AI提出Transformer2：賦予LLM實時適應能力

大型語言模型(LLM)的傳統微調方法耗時費力，且難以應對多樣化任務。Sakana AI的研究團隊為此提出了一種名為Transformer2的新方法，它能夠讓LLM實時適應未見過的任務，顯著提升模型的泛化和自適應能力。

1. LLM的“大腦”與奇異值分解

文章將LLM的權重矩陣比作人類大腦，存儲著模型學習到的知識。為了理解并有效調整這個“大腦”，研究人員利用奇異值分解(SVD)將權重矩陣分解成更小、更的組件，如同將大腦中的知識路徑分解成更小的模塊。

2. Transformer2的兩步過程

Transformer2包含兩個核心步驟：首先，模型分析傳入的任務，理解其需求；然后，應用任務專用的適應性調整，生成最佳結果。這通過動態調整權重矩陣中的關鍵組件實現。

3. 奇異值微調(SVF)與強化學習(RL)

在訓練階段，Transformer2采用奇異值微調(SVF)方法，利用強化學習(RL)來增強或抑制不同組件的信號，使其適應多種下游任務。每個任務對應一個z向量，該向量指定了每個組件的期望強度，如同“放大器”或“衰減器”。

4. 三種自適應策略

在推理階段，Transformer2采用三種自適應策略：基于提示的適應、基于分類器的適應和少樣本適應。這些策略能夠根據任務或輸入提示，選擇或組合合適的z向量來調整模型權重，生成最佳響應。

5. 實驗結果與知識轉移

實驗結果表明，Transformer2在數學、代碼、推理和視覺問答等任務上均優于LoRA，尤其是在未見過的任務上表現出色。更令人興奮的是，該方法還展現出模型知識轉移的潛力：將一個模型學習到的z向量轉移到另一個模型，也能提升后者的性能。

6. “智能”的未來

Transformer2為LLM的未來發展指明了方向：AI系統將不再是靜態實體，而是能夠不斷學習、演化和適應的“智能”。這將推動高效、個性化、完全集成的AI工具的開發，并在各個行業帶來進步。

總而言之，Transformer2通過巧妙地利用SVD和RL，實現了LLM的實時自適應能力，為構建更靈活、高效和智能的AI系統開辟了新的道路。

聯系作者

文章來源：新智元
作者微信：
作者簡介：智能+中國主平臺，致力于推動中國從互聯網+邁向智能+新紀元。重點關注人工智能、機器人等前沿領域發展，關注人機融合、人工智能和機器人對人類社會與文明進化的影響，領航中國新智能時代。