激勵式對齊

原標題：不停PUA大模型「寫更好點」，無需其它花哨技術就能讓AI代碼水平暴增
文章來源：機器之心
內容字數：14598字

迭代式提示優化代碼：讓AI寫出更好的代碼

本文總結了Max Woolf利用迭代式提示詞不斷要求AI模型“寫出更好的代碼”，從而顯著提升代碼質量的實驗結果。該實驗引發了AI領域專家的熱議，并被認為具有重要的實際應用價值。

1. 實驗背景與方法

受到此前“讓圖像更X”meme的啟發，Woolf嘗試通過迭代式提示詞“write better code”來改進AI生成的Python代碼。實驗使用Claude 3.5 Sonnet模型，針對一個簡單的編程問題（找出百萬個隨機整數中各位數之和為30的最小數和最大數的差值）進行測試。初始代碼由模型直接生成，之后每次迭代都將之前的代碼和新的提示詞輸入模型，讓其進行優化。

2. 迭代優化過程

實驗進行了多次迭代，每一次迭代都帶來了代碼性能的提升，但提升幅度逐漸減小。前幾次迭代，模型主要通過算法改進（例如使用整數運算、并行化和向量化）來提升效率，速度提升了數倍。但到了后期，模型開始引入一些“企業級”功能（例如日志記錄、信號處理），代碼變得臃腫，性能提升反而有所下降，體現了“過早優化”的風險。

3. 提示詞工程的重要性

為了更有效地引導模型進行優化，Woolf在第二次實驗中使用了更精細的提示詞工程，明確規定了“完全優化”的標準，并設定了懲罰機制。這次實驗的初始代碼質量更高，后續迭代也更加穩定，但依然存在模型出現幻覺、生成錯誤代碼的情況，需要人工干預修正。

4. 實驗結果與啟示

實驗結果表明，迭代式提示詞方法確實可以改進AI生成的代碼，但效果取決于提示詞的質量和模型的理解能力。簡單的“write better code”提示詞可以帶來初步的改進，而更精細的提示詞工程則能獲得更顯著、更穩定的提升。然而，模型可能會引入一些微妙的bug，需要人工進行檢查和修正。 實驗中，即使模型出錯，也能提供一些有價值的優化思路和工具建議，例如numba庫的使用。

5. 實際應用價值

盡管LLM生成的代碼并非完美，但迭代式提示方法為提升代碼編寫效率提供了新的思路。通過不斷引導和改進，可以有效地利用LLM來輔助軟件開發，提升開發效率。然而，開發者需要具備一定的專業知識，才能判斷模型生成的代碼是否合理，并進行必要的修正和完善。該方法尤其適用于一些重復性高、邏輯簡單的代碼編寫任務。

6. 未來展望

未來，研究人員可以進一步探索更有效的提示詞工程方法，以及如何更好地引導LLM避免生成錯誤代碼。此外，利用其他編程語言和更高級的優化技術，例如Rust和PyO3，將進一步提升代碼性能，拓展該方法的應用范圍。

聯系作者

文章來源：機器之心
作者微信：
作者簡介：專業的人工智能媒體和產業服務平臺