大模型時(shí)代，企業(yè)安全建設(shè)如何升級(jí)？安全人員飯碗不保了嗎？

AIGC動(dòng)態(tài)歡迎閱讀

原標(biāo)題：大模型時(shí)代，企業(yè)安全建設(shè)如何升級(jí)？安全人員飯碗不保了嗎？
關(guān)鍵字：模型,領(lǐng)域,數(shù)據(jù),報(bào)告,技術(shù)
文章來源：AI前線
內(nèi)容字?jǐn)?shù)：0字

內(nèi)容摘要：

編輯 | 蔡芳芳策劃 | 李忠良
如今 AI 大模型可以處理大量的安全數(shù)據(jù)，通過模式識(shí)別和數(shù)據(jù)挖掘技術(shù)，發(fā)現(xiàn)潛在的威脅，提供實(shí)時(shí)威脅情報(bào)分析，幫助安全團(tuán)隊(duì)快速響應(yīng)。然而，大模型也帶來了新的風(fēng)險(xiǎn)和挑戰(zhàn)。例如，生成式人工智能大模型的數(shù)據(jù)訓(xùn)練和部署應(yīng)用可能產(chǎn)生有害內(nèi)容、泄露敏感數(shù)據(jù)、生成錯(cuò)誤信息、濫用實(shí)施違法活動(dòng)等風(fēng)險(xiǎn)。
大模型時(shí)代，企業(yè)安全建設(shè)應(yīng)該如何做？企業(yè)應(yīng)如何建立完善的合規(guī)框架和監(jiān)管機(jī)制？日前 InfoQ《極客有約》X QCon 直播欄目特別邀請(qǐng)了百度杰出架構(gòu)師 & 安全技術(shù)委員會(huì)主席包沉浮與霧幟智能聯(lián)合創(chuàng)始人 &CTO 傅奎，在 QCon 全球軟件開發(fā)大會(huì) 2024 上海站即將召開之際，針對(duì)上述問題展開討論。
部分精彩觀點(diǎn)如下：
機(jī)器負(fù)責(zé)推薦決策，人類負(fù)責(zé)最終決策。
要對(duì)大模型本身的安全性懷有敬畏之心。
只要技術(shù)存在，安全問題就會(huì)一直存在。
程序員真的把自己干得挺狠的。
短期內(nèi)，人類在安全領(lǐng)域的作用仍然是不可或缺的。在 10 月 18-19 日將于上海舉辦的 QCon 全球軟件開發(fā)大會(huì)上，我們特別設(shè)置了【探索安全邊界：出海合規(guī)與大模型實(shí)踐】專題，一方面，交流企業(yè)出海過程中的合規(guī)

原文鏈接：大模型時(shí)代，企業(yè)安全建設(shè)如何升級(jí)？安全人員飯碗不保了嗎？