AI 也會(huì)戴有色眼鏡？一文揭露圖像生成中的刻板印象

AIGC動(dòng)態(tài)歡迎閱讀

原標(biāo)題：AI 也會(huì)戴有色眼鏡？一文揭露圖像生成中的刻板印象
關(guān)鍵字：印象,圖像,群體,身份,屬性
文章來源：夕小瑤科技說
內(nèi)容字?jǐn)?shù)：8310字

內(nèi)容摘要：

?夕小瑤科技說 原創(chuàng)作者|智商掉了一地、Python眾所周知，刻板印象具有高度主觀性，就好比給出關(guān)鍵詞“神探”，不同觀眾可能會(huì)聯(lián)想到截然不同的答案。
▲圖1 神探：福爾摩斯、柯南和狄仁杰隨著 ChatGPT 的問世，關(guān)于人工智能生成內(nèi)容（AIGC）的研究越發(fā)深入。漸漸地，人們發(fā)現(xiàn)這些智能體可能也存在著刻板印象，更像是戴著有色眼鏡看人。
在文本生成領(lǐng)域，大型語(yǔ)言模型（LLM）可能會(huì)生成涉及倫理道德方面的。而在圖像生成領(lǐng)域，LLM 的快速發(fā)展為文本到圖像（Text-to-Image，T2I）模型的研究注入了新的活力，這些 T2I 模型同樣面臨戴著有色眼鏡看人的情況，在生成圖像時(shí)可能存在“地域刻板印象”。
那么人眉心是否都有紅點(diǎn)？非洲人都瘦骨嶙峋？墨西哥人基本都戴著闊邊草帽？NO！這都是刻板印象的惹的禍。在 AIGC 的時(shí)代，由于數(shù)據(jù)集存在著一定偏見且數(shù)據(jù)數(shù)量有限，那么在大模型的眼中，我們會(huì)不會(huì)也被貼上刻板印象的標(biāo)簽？
▲圖2 識(shí)別身份群體生成的圖像中的視覺刻板印象對(duì)于這個(gè)問題，本文作者進(jìn)行了深入探索，區(qū)分了圖像中的“視覺”和“非視覺”的刻板印象，同時(shí)探討了這些刻板印象在生成圖像中的

原文鏈接：AI 也會(huì)戴有色眼鏡？一文揭露圖像生成中的刻板印象

聯(lián)系作者

文章來源：夕小瑤科技說
作者微信：xixiaoyaoQAQ
作者簡(jiǎn)介：更快的AI前沿，更深的行業(yè)洞見。聚集25萬(wàn)AI應(yīng)用開發(fā)者、算法工程師和研究人員。一線作者均來自清北、國(guó)外頂級(jí)AI實(shí)驗(yàn)室和互聯(lián)網(wǎng)大廠，兼?zhèn)涿襟wsense與技術(shù)深度。