【資料圖】
近日，湖北大學生命科學學院陳前軍高級實驗師與資源環境學院劉杰教授團隊聯合在計算機科學信息系統頂級期刊Information Sciences（中科院一區頂刊，CCF-B類）上發表題為“Visualizing Deep Networks using Segmentation Recognition and Interpretation Algorithm”（基于分割識別深度網絡的可視化算法）的研究論文，提出了一種新型深度神經網絡解釋算法，用以解決深度神經網絡的分類、預測模型的可信解釋問題。碩士生丁永昌為第一作者，劉暢和朱海峰為參與作者，陳前軍和劉杰為共同通訊作者，湖北大學為第一單位（如圖1）。
圖1. 文章首頁
隨著機器學習技術的進步，人工智能越來越多地被應用于數據分析和問題決策過程。但由于深度神經網絡“黑盒”特征，它的決策過程很難被簡明扼要地解釋清楚，模型研發者很難讓用戶完全相信決策過程和決策結果，因此理解和解釋深度學習預測模型做出的決策過程在許多領域極具現實價值。研究人員在研究已有解釋算法的基礎上，提出了一種新型的深度卷積神經網絡模型的解釋算法，即采用分割識別總體思路來對模型進行解釋（如圖2）。與其它主流解釋算法相比，該算法能夠對模型預測過程中的正向特征與負向特征進行標注（定性分析），可通過顏色濃度表達和真實標簽的相關程度（定量分析），并且只存在正向傳播、參數量更少，占用更少的硬件資源，卻擁有更快的模型解釋速度等特性。其次，該算法在保證解釋準確性前提下，擁有更好的場景適應性。
圖2. NNI-SRI算法思想和流程
研究人員將該算法應用在基于深度學習的蜘蛛性別分類模型中，得到了較好的實驗效果。該解釋算法準確標注出蜘蛛樣本頭胸部的雄蛛觸肢器末端膨大、雌蛛外雌器角質化所在區域（分類學家鑒定雌雄的主要依據），從計算機角度證明了人工智能分類模型的正確性，同時提示著擬遁蛛屬蜘蛛的花紋極有可能存在肉眼不易識別的雌雄二型現象，這一發現目前暫無相關報道，該結論對于學者在蜘蛛的形態分類學研究中具有著指導作用（如圖3）。
圖3. NNI-SRI模型解釋效果
據悉，劉杰教授團隊一直聚焦于蜘蛛經典分類與分子系統學、農田蜘蛛生態學方面的研究。近年來在Pest Management Science, Molecular Phylogenetics and Evolution, Intergrative Zoology, Microorganisms等SCI期刊發表論文35篇，主持國家自然科學基金5項；陳前軍老師團隊一直從事計算機軟件、人工智能基礎理論的研究和開發工作，近年來合作研發的葛洲壩人才招聘系統、運百跨境電商管理系統、湖北省公安廳執法資格大規模在線考試系統和湖北文化產業網等信息系統一直運行穩定、效果良好，得到一致好評。（湖北大學 生命科學學院）
營業執照公示信息