NTU華科等最新研究：全自動化「提示越獄」，能打敗大模型的只有大模型！登安全頂會NDSS

AIGC動態歡迎閱讀

原標題：NTU華科等最新研究：全自動化「提示越獄」，能打敗大模型的只有大模型！登安全頂會NDSS

關鍵字：作者,模型,南洋,機器人,提示

文章來源：新智元

內容字數：4714字

內容摘要：新智元報道編輯：LRS 好困【新智元導讀】把大模型從「守口如瓶」成「耿直boy」，最新NDSS論文研究用全自動化的方式實現「越獄」，用大模型敲碎獄墻。今年，被網友戲稱為「奶奶漏洞」的大語言模型「越獄」方法，可以說是火了火。簡單來說，對于那些會被義正言辭拒絕的需求，包裝一下話術，比如讓ChatGPT「扮演已經過世的祖母」，它大概率就會滿足你了。不過，隨著服務提供商不斷地更新和強化安全措施，越獄攻…

原文鏈接：點此閱讀原文：NTU華科等最新研究：全自動化「提示越獄」，能打敗大模型的只有大模型！登安全頂會NDSS

聯系作者

文章來源：新智元

作者微信：AI_era

作者簡介：智能+中國主平臺，致力于推動中國從互聯網+邁向智能+新紀元。重點關注人工智能、機器人等前沿領域發展，關注人機融合、人工智能和機器人對人類社會與文明進化的影響，領航中國新智能時代。