不靠譜的AI？這一研究領域需警惕

AIGC動態歡迎閱讀

原標題：不靠譜的AI？這一研究領域需警惕
關鍵字：報告,數據,研究人員,科學家,算法
文章來源：人工智能學家
內容字數：6798字

內容摘要：

來源：科學網
編輯：方圓
排版：華園
文：卜金婷 田瑞穎
《自然》近日發文警告，對人工智能（AI）的不當使用或將催生大量不可靠或無用的研究，導致可重復性危機。而基于AI的科學文獻中的錯誤，是否已經在實際臨床中造成真正的危險尚不清楚。
在2020年底新冠疫情大流行期間，由于一些國家病毒感染檢測試劑短缺，利用X射線診斷的方法備受關注，但人眼很難準確分辨感染與非感染個體之間的差異。一個團隊的報告稱，AI可以利用機器學習分析X射線圖像。這篇論文被引用了900多次。
次年9月，美國堪薩斯州立大學的計算機科學家Sanchari Dhar和Lior Shamir進行了更深入的研究。他們使用與團隊相同的圖像數據集來訓練機器學習算法，但只分析其中不顯示任何身體部位的空白背景部分，結果顯示，AI仍然能夠在遠高于隨機水平的情況下識別出感染病例。
這意味著，AI系統可以利用這些圖像數據成功完成診斷任務，卻無法學習到任何與臨床相關的特征——這可能使得它在醫學上毫無用處。
Shamir和Dhar還發現其他幾個案例，AI從圖像的空白處或無意義部分得到了類似的結果，其中一些論文被引用了數百次。這也讓Sha

原文鏈接：不靠譜的AI？這一研究領域需警惕

聯系作者

文章來源：人工智能學家
作者微信：AItists
作者簡介：致力成為權威的人工智能科技媒體和前沿科技研究機構