香港理工：你精心設計的prompt，很容易被用戶套出來！

AIGC動態歡迎閱讀

原標題：香港理工：你精心設計的prompt，很容易被用戶套出來！
關鍵字：提示,模型,策略,意圖,指令
文章來源：夕小瑤科技說
內容字數：0字

內容摘要：

夕小瑤科技說 原創作者 | 謝年年自OpenAI的GPT系列及微軟Copilot Studio驚艷登場以來，第三方開發者群體迅速壯大，他們巧妙地設計個性化prompts，并與專業領域的函數調用、外部資料深度融合，催生了圖像創作、學術輔助GPT、寫作伙伴等一系列創新服務。
這一過程無需觸及LLMs內部參數的復雜調整，僅憑明確的需求與指令，即可迅速定制出專屬的LLMs。
鑒于Prompts的精準設定直接關乎LLM的效能與用戶體驗，它們自然而然地成為了開發者在定制服務中的核心競爭優勢與寶貴資產。
但是，最近有研究者發現這些精心設計的prompt非常容易被套用出來。 比如通過簡單要求模型重復指令的方式，模型就傻傻的將其吐露出來：
一旦提示泄露，惡意用戶可以輕松模仿甚至復制與原始服務完全等效的服務，從而危及受害第三方開發者的版權。
那么LLMs是如何泄露其提示的,哪些因素導致了這種泄露？我們又該如何筑起防線，抵御此類攻擊？
帶著這些問題，我們一起去香港理工團隊這篇文章中尋找答案。
論文標題:Why Are My Prompts Leaked? Unraveling Prompt Extracti

原文鏈接：香港理工：你精心設計的prompt，很容易被用戶套出來！

聯系作者

文章來源：夕小瑤科技說
作者微信：
作者簡介：