Plant Phenomics | 基于知識蒸餾的輕量級植物病害檢測模型

植物疾病是導致農作物產量降低的主要原因之一，常常在生長過程中感染，而且當疾病癥狀明顯時，治療機會常被錯過。因此，及時進行植物的病害診斷，可以有效地抑制病害的傳播，防止糧食產量大規模下降。到目前為止，植物病害的診斷面臨著兩個問題：對于傳統的植物病害檢測方法，需要依賴專業人員進行疾病診斷，適用性有限；基于數字圖像處理和傳統機器學習的植物疾病診斷方法又僅只限于對單一作物進行病害診斷，并且現有的模型具有大量參數，不適合部署到農業移動設備上。同時，減少模型參數又會導致模型準確性的下降。因此，如何找到一個輕量高效、適用性廣泛的自動化植物病害診斷模型成為了當下研究熱點。
 

2023年6月，Plant Phenomics在線發表了貴州大學公共大數據國家重點實驗室王崎教授、郝格非教授團隊題為 Knowledge Distillation Facilitates the Lightweight and Efficient Plant Diseases Detection Mode 的研究論文。
 

近日，貴州大學公共大數據國家重點實驗室王崎教授、郝格非教授團隊提出了一種基于知識蒸餾的方法，通過將教師模型（YOLOR模型）的知識傳遞給多個輕量級學生模型（YOLOR-Light-v1、YOLOR-Light-v2、Mobile-YOLOR-v1、Mobile-YOLOR-v2），來改善輕量模型的性能。采用多階段知識蒸餾方法，在保持小模型參數的同時，實現了在PlantDoc數據集（https://arxiv.org/abs/1911.10317）上達到60.4%的mAP@ .5的性能，超過了現有的方法。

本研究比較了4個植物病害數據集，并引入了2個通用的圖像目標檢測數據集作為參考。如表1所示，PlantVillage數據集具有過于簡單的圖像背景，并且不提供對象檢測注釋。PlantDoc數據集（https://arxiv.org/abs/1911.10317）是一個公共可用的數據集，可以應用于分類和檢測任務，如圖1所示。
 

表1 植物病害診斷和圖像目標檢測之間的數據集比較。
 

圖1 PlantDoc數據集上每個類別的圖像和邊界框的數量。
 

多階段知識蒸餾（MSKD）模型的框架如圖2所示：

1）教師模型和學生模型都是以圖像作為植物病害檢測的輸入。

2）Head Stage蒸餾器：教師模型通過將知識提煉到學生模型的backbone和neck部分來指導學生模型的訓練。Head Stage Distiller 提供整個學生模型的反饋，幫助其提高整體性能。

3）蒸餾模塊（DM）：DM 在指導學生模型的學習中起著至關重要的作用。它使用三個損失函數來比較與圖像相關的標簽和學生模型生成的多級特征。這些損失函數幫助學生模型完善其預測并將其與教師的預測保持一致。

4）反饋循環：DM 和頭級蒸餾器負責在訓練期間向學生模型提供反饋。這種反饋循環確保學生模型不斷提高其性能并與教師模型的知識保持一致。
 

圖2 多級蒸餾（MSKD）模型框架。

圖3展示了植物病害檢測中教師和學生模型采用的模型輕量級策略。子圖 (A)說明了教師模型中使用的“原始塊”的實例，它展示了用于特征提取的構建塊。子圖(C)呈現了教師模型的整體“原始架構”，它由原始塊的 N₃ 個實例組成，負責從輸入數據中提取特征。子圖 (B)顯示了通過簡化原始塊得到的有效塊。子圖 (D)顯示了具有M₃（M₃
 

圖2示范模型輕量級戰略。
 

表5 植物病害診斷模型在PlantDoc數據集上的定性結果。（↑表明越高越好。↓表明越低越好）

（更加詳細的數據對比請看原文） 通過多次實驗對比及實驗數據研究表明：

1）提出的學生模型在參數數量（Paras）、GFLOPs和內存使用方面優于這些圖像對象檢測方法，甚至某些指標遠遠優于它們，除了YOLOv6s。

2）在mAP@ .5方面，提出的模型的性能與最新的圖像對象檢測方法相差不大，但遠好于傳統方法。

3）與YOLOv6l相比，提出的YOLOR-Light-v2 (Distilled)模型只高出1.5%的mAP@ .5，但計算成本明顯降低。

這些實驗結果表明，提出的輕量級學生模型在性能和資源消耗方面具有優勢，能夠以較低的計算資源獲得與最新的圖像對象檢測方法相媲美的性能。此外，使用多任務知識蒸餾模塊（MKDM）的模型在mAP@ .5方面表現明顯優于沒有使用MKDM的模型，表明MKDM能夠提供額外的有效約束，提高了性能。
 

這些結果強調了輕量級對象檢測方法在植物疾病診斷和農業生產中的潛在應用，尤其是在需要高效、準確且輕量級的模型的情況下，例如農業生產中使用的無人機。輕量級模型能夠在保持性能的同時降低計算成本，推動了對象檢測技術在農業生產和研究中的發展。

代碼可在https://github.com/QDH/MSKD獲得

作者介紹

論文第一作者為貴州大學公共大數據國家重點實驗室本科生黃前頂、博士研究生吳興財，碩士研究生董新宇等；論文通訊作者為特聘教授王崎，郝格非教授，合作者包括秦永彬教授。

王崎：公共大數據國家重點實驗室科研團隊成員，主要研究領域：多模態數據融合分析，圖像文本分析，大數據分析，計算機視覺，農業病理圖像識別。在工程應用方面，致力于利用視覺文本技術解決智慧農業中的植物病害問題。有意者請聯系：qiwang@gzu.edu.cn

論文鏈接：

https://spj.science.org/doi/10.34133/plantphenomics.0062

——推薦閱讀——

To what extent does yellow rust infestation affect remotely sensed nitrogen status?

https://spj.science.org/doi/10.34133/plantphenomics.0083

Plant Phenomics | 葉片病害壓力在多大程度上影響遙感氮狀況？以條銹病為例研究

An effective image-based tomato leaf disease segmentation method using MC-UNethttps://doi.org/10.34133/plantphenomics.0049

Plant Phenomics | 基于自制番茄葉片病害的圖像分割方法研究

加入作者交流群

掃碼添加小編微信，拉您進入《植物表型組學》作者交流群，群內不定期開展作者分享會、�？�發布會等高質量活動。
 

添加小編微信，備注姓名+單位+PP，加入作者交流群

About Plant Phenomics

《植物表型組學》（Plant Phenomics）是由南京農業大學和美國科學促進會（AAAS）合作創辦的英文學術期刊，于2019年1月正式上線發行。采用開放獲取形式，刊載植物表型組學交叉學科熱點領域具有突破性科研進展的原創性研究論文、綜述、數據集和觀點。具體范圍涵蓋高通量表型分析的最新技術，基于圖像分析和機器學習的表型分析研究，提取表型信息的新算法，作物栽培、植物育種和農業實踐中的表型組學新應用，與植物表型相結合的分子生物學、植物生理學、統計學、作物模型和其他組學研究，表型組學相關的植物生物學等。期刊已被DOAJ、Scopus、PMC、EI和SCIE等數據庫收錄�？祁Ｎò睯CR2021影響因子為6.961，位于農藝學、植物科學，遙感一區。中科院農藝學、植物科學一區，遙感二區，生物大類一區（TOP期刊）。2020年入選中國科技期刊卓越行動計劃高起點新刊項目。

說明：本文由《植物表型組學》編輯部負責組稿。
中文內容僅供參考，一切內容以英文原版為準。
撰稿人：靳松
編輯：趙倩瑩（實習）
審核：孔敏、王平