發(fā)布日期:2018-06-08
一項(xiàng)新研究發(fā)出警告,分析醫(yī)學(xué)成像的AI軟件容易被愚弄。研究人員稱,深度學(xué)習(xí)神經(jīng)網(wǎng)絡(luò)在識別醫(yī)學(xué)成像上的準(zhǔn)確性得到了廣泛報(bào)道,但對于其的弱點(diǎn)和安全問題則了解不多。德國研究人員上周報(bào)道稱,AI系統(tǒng)比有經(jīng)驗(yàn)的皮膚科醫(yī)生能更準(zhǔn)確的診斷皮膚癌。
研究人員認(rèn)為,在將AI工具整合到醫(yī)療保健系統(tǒng)的過程中,需要對其潛在的弱點(diǎn)有更多了解。他們檢查了愚弄醫(yī)學(xué)成像分析軟件的難度。他們發(fā)現(xiàn)利用“對抗樣本”(adversarial examples)能很容易的欺騙AI軟件錯誤分類,這種攻擊方法人類很難識破。
來源:solidot