AIGC動(dòng)態(tài)歡迎閱讀

原標(biāo)題：能找神經(jīng)網(wǎng)絡(luò)Bug的可視化工具，Nature子刊收錄
關(guān)鍵字：神經(jīng)網(wǎng)絡(luò),數(shù)據(jù),表示,樣本,拓?fù)鋵W(xué)
文章來(lái)源：機(jī)器之心
內(nèi)容字?jǐn)?shù)：4730字

內(nèi)容摘要：

機(jī)器之心報(bào)道
編輯：婁佳琪、大盤(pán)雞近來(lái)，《自然》子刊收錄了一項(xiàng)能找出神經(jīng)網(wǎng)絡(luò)在哪里出錯(cuò)的研究成果。研究團(tuán)隊(duì)提供了一種利用拓?fù)鋵W(xué)描述神經(jīng)網(wǎng)絡(luò)的推斷結(jié)果與其分類之間關(guān)系的可視化方法。這項(xiàng)成果能夠幫助研究人員推斷神經(jīng)網(wǎng)絡(luò)推理過(guò)程中發(fā)生混淆的具體情況，讓人工智能系統(tǒng)更加透明。研究人員發(fā)現(xiàn)，在神經(jīng)網(wǎng)絡(luò)推理的某些數(shù)據(jù)圖中存在尖峰，這些尖峰往往出現(xiàn)在神經(jīng)網(wǎng)絡(luò)判斷模糊與產(chǎn)生錯(cuò)誤的地方。觀察這些尖峰，研究人員可以更容易發(fā)現(xiàn)人工智能系統(tǒng)中的故障點(diǎn)。
從分析癌癥突變的原因到?jīng)Q定誰(shuí)應(yīng)該獲得貸款，在解決這些問(wèn)題的過(guò)程中，仿照人腦的神經(jīng)網(wǎng)絡(luò)比人類表現(xiàn)得更加快速、準(zhǔn)確、公正。但是由于人工智能的工作并不透明，難以得知它們推理判斷的過(guò)程，這引發(fā)了對(duì)人工智能可靠性的擔(dān)憂。現(xiàn)在，一項(xiàng)新的研究提供了一種發(fā)現(xiàn)神經(jīng)網(wǎng)絡(luò)的錯(cuò)誤出在哪里的方法。這項(xiàng)研究為揭示神經(jīng)網(wǎng)絡(luò)在出錯(cuò)時(shí)正在進(jìn)行怎樣的操作提供了可能。
神經(jīng)網(wǎng)絡(luò)在對(duì)數(shù)據(jù)集進(jìn)行計(jì)算時(shí)，會(huì)將注意力集中在樣本上，例如圖像中是否包含人臉。編碼這些細(xì)節(jié)的數(shù)字串被用來(lái)計(jì)算樣本屬于某個(gè)特定類別的概率。在本例中，計(jì)算的是圖像中是否有一個(gè)人，以及這個(gè)人的臉是否顯示出來(lái)。
然而，神經(jīng)網(wǎng)絡(luò)從哪些樣本數(shù)據(jù)

原文鏈接：能找神經(jīng)網(wǎng)絡(luò)Bug的可視化工具，Nature子刊收錄

聯(lián)系作者

文章來(lái)源：機(jī)器之心
作者微信：almosthuman2014
作者簡(jiǎn)介：專業(yè)的人工智能媒體和產(chǎn)業(yè)服務(wù)平臺(tái)