PaLM 2數學性能暴漲6%！DeepMind新作力證「合成數據」是通往AGI關鍵

AIGC動態歡迎閱讀

原標題：PaLM 2數學性能暴漲6%！DeepMind新作力證「合成數據」是通往AGI關鍵

關鍵字：模型,數據,性能,研究人員,樣本

文章來源：新智元

內容字數：4788字

內容摘要：新智元報道編輯：桃子【新智元導讀】AI可以從自己生成的「合成數據」中學習，最重要的是，能夠大幅提升數據問題解決和代碼生成的能力。合成數據，或許就是大模型的未來。不久前Jim Fan就在上表示，合成數據將提供下一萬億個高質量的訓練token。還有人認為，因為人類無法產生足夠多的高質量數據，「合成數據」似乎是實現AGI的關鍵。現在看來，確實如此。谷歌DeepMind和Mila實驗室的研究人員發現，「合成數據」能夠讓大模型數學問題解決，以及代碼生成能力大幅提升。論文中，他們提出了一種全新的方法——，利用AI系統生成數據來自我訓練。論文地址：https://arxiv.org/pdf/2312.06585.pdf在MATH高級推理和APPS編碼基準測試中，使用PaLM-2模型進行測試后，發現與模型大小的擴展相稱，并顯著優于僅在人類數據上進行微調的模型。總而言之，利用反饋進行自我訓練，可以大大減…

原文鏈接：點此閱讀原文：PaLM 2數學性能暴漲6%！DeepMind新作力證「合成數據」是通往AGI關鍵

聯系作者

文章來源：新智元

作者微信：AI_era

作者簡介：智能+中國主平臺，致力于推動中國從互聯網+邁向智能+新紀元。重點關注人工智能、機器人等前沿領域發展，關注人機融合、人工智能和機器人對人類社會與文明進化的影響，領航中國新智能時代。