原標題：AI太強，驗證碼全失效？新南威爾士全新設(shè)計：GPT傻傻認不出，人類一致好評
文章來源：新智元
內(nèi)容字數(shù)：7345字

新型驗證碼IllusionCAPTCHA：利用視覺錯覺對抗AI攻擊

隨著人工智能技術(shù)的飛速發(fā)展，傳統(tǒng)的驗證碼越來越難以抵御AI的攻擊。為了解決這一問題，新南威爾士大學(xué)、南洋理工大學(xué)等機構(gòu)的研究人員提出了一種新型驗證碼——IllusionCAPTCHA，它巧妙地利用了人類與AI在視覺感知上的差異，有效提高了驗證碼的安全性，同時提升了用戶體驗。

1. 傳統(tǒng)驗證碼的困境

傳統(tǒng)的驗證碼主要依賴文本扭曲、圖像分類或邏輯推理來區(qū)分人類和機器。然而，隨著大型語言模型（LLM）如GPT-4和Gemini的出現(xiàn)，這些方法逐漸失效。LLM能夠以高成功率傳統(tǒng)的驗證碼，導(dǎo)致驗證碼的安全性嚴重下降，同時，復(fù)雜的驗證碼也給用戶帶來了糟糕的體驗。

2. IllusionCAPTCHA的工作原理

IllusionCAPTCHA的設(shè)計靈感來源于人類視覺錯覺。它通過一個三階段的生成框架來創(chuàng)建驗證碼：

1. 創(chuàng)建視覺錯覺：將基礎(chǔ)圖像與用戶定義的提示詞融合，生成一種視覺錯覺圖像。該圖像看起來像提示詞描述的物體，從而隱藏了基礎(chǔ)圖像的真實內(nèi)容。人類可以輕松識別，而AI則容易被誤導(dǎo)。
2. 生成選項：基于修改后的圖像生成多個選項，形成一個多項選擇題。這避免了僅僅依賴錯覺圖像可能導(dǎo)致的不足。
3. 引入誘導(dǎo)性提示：設(shè)計誘導(dǎo)性提示，引導(dǎo)基于LLM的攻擊者選擇預(yù)設(shè)的錯誤選項。這進一步提高了驗證碼的安全性。

IllusionCAPTCHA的生成過程利用了ControlNet等技術(shù)，確保生成的圖像既便于人類識別，又令自動系統(tǒng)難以解釋。為了提高可識別性，研究人員設(shè)計了基于文本和基于圖像兩種類型的驗證碼。

3. 選項設(shè)計與誘導(dǎo)策略

IllusionCAPTCHA的選項設(shè)計經(jīng)過精心策劃，以防范基于LLM的攻擊。四個選項中，一個為正確答案，一個為生成圖像的提示詞，其余兩個為對提示詞的詳細描述，但刻意避免包含正確答案。這種設(shè)計使得用戶更容易識別正確答案，提升了用戶體驗。

誘導(dǎo)性提示的設(shè)計基于實證研究，利用LLM容易產(chǎn)生冗長且詳細描述的特性，引導(dǎo)其選擇描述視覺錯覺元素的選項，從而提高其選擇錯誤答案的概率。

4. 實驗結(jié)果與結(jié)論

實驗結(jié)果表明，LLM在識別帶有視覺錯覺的文本和圖像時的成功率均為0%。而人類的識別率則高達83%（文本錯覺）和88%（圖像錯覺）。誘導(dǎo)性話術(shù)也成功地引導(dǎo)了LLM選擇錯誤答案。IllusionCAPTCHA的用戶通過率分析顯示，86.95%的用戶能夠在首次嘗試時成功通過CAPTCHA，表明該驗證碼在安全性與可用性上均優(yōu)于現(xiàn)有方法。

IllusionCAPTCHA為驗證碼技術(shù)提供了新的思路，它有效地利用了人類和AI在認知能力上的差異，為對抗日益強大的AI攻擊提供了新的武器。

聯(lián)系作者

文章來源：新智元
作者微信：
作者簡介：智能+中國主平臺，致力于推動中國從互聯(lián)網(wǎng)+邁向智能+新紀元。重點關(guān)注人工智能、機器人等前沿領(lǐng)域發(fā)展，關(guān)注人機融合、人工智能和機器人對人類社會與文明進化的影響，領(lǐng)航中國新智能時代。