微軟Copilot生成暴力圖且拒不更改，內部工程師絕望舉報至！

AIGC動態歡迎閱讀

原標題：微軟Copilot生成暴力圖且拒不更改，內部工程師絕望舉報至！
關鍵字：政策,報告,微軟,圖像,商標侵權
文章來源：AI前線
內容字數：7883字

內容摘要：

不久前，Gemini 因為圖像生成問題而關閉了文生圖功能，現在微軟也出現了“同樣”的問題。
在微軟供職六年的微軟 AI 工程主管 Shane Jones 一直利用空閑時間測試自家 AI 圖像生成器，測試結果令他感到不安。他警告稱，微軟的 Copilot Designer 產品會生成與暴力內容，但公司方面并未就此采取適當行動。本周三，Jones 決定將此事上報，向美國聯邦貿易委員會（FTC）主席 Lina Khan 及微軟董事會發出函件。這之前，當他公開披露這些問題時，卻遭到了微軟法律部門的壓力要求刪除公開發言。
編輯|李忠良、核子可樂看到了“不該看的”Jones 研究的是 Copilot Designer，這是由微軟公司于 2023 年 3 月推出的 AI 圖像生成器，由 OpenAI 提供技術支持。用戶可以向 Copilot Designer 輸入文本提示并生成圖片。過去 Jones 一直在積極測試產品漏洞，通過實際操作，他發現該工具生成的圖像常常與微軟宣稱的負責任 AI 原則相違背。
去年 12 月，Shane Jones 對著電腦屏幕上彈出的圖像久久無法平靜。因為他看到了“

原文鏈接：微軟Copilot生成暴力圖且拒不更改，內部工程師絕望舉報至！

聯系作者

文章來源：AI前線
作者微信：ai-front
作者簡介：面向AI愛好者、開發者和科學家，提供大模型最新資訊、AI技術分享干貨、一線業界實踐案例，助你全面擁抱AIGC。