CVPR 2020: SGAS,一種基于貪心思想的CNN/GCN網絡結構搜索算法
2020-04-22 11:39
將門創(chuàng)投
關注
根據(jù)這三個影響邊選擇的三個因素,我們提出了兩個選擇指標:
指標1 :具有高的邊重要性和高的邊確定性的邊將被選擇,公式為:
指標2:在指標1的基礎上,被選擇的邊也應該具有較高的穩(wěn)定性:
這里,normalize(·)指 Min-Max標準化。
實驗結果
我們搜索了CNN和GCN網絡結構,并在CIFAR,ImageNet圖像分類,ModelNet點云分類,PPI生物圖數(shù)據(jù)節(jié)點分類上達到了SOTA效果。
CNN
我們將SGAS用到CNN的網絡結構搜索中, CNN網絡結構由普通單元(normalcell) 和 歸約單元(reduction cell)組成。普通單元保持特征圖大小不變,歸約單元縮小特征圖至. CNN任務中,搜索空間由8個運算組成:skip-connect,max-pool-3×3, avg-pool-3×3, sep-conv-3×3, sep-conv5×5, dil-conv-3×3,dil-conv-5×5, zero。
SGAS在CIFAR-10的訓練集與驗證集搜索結構,并在測試集上進行測試,結果如表1所示:
SGAS在CIFAR-10的訓練集與驗證集搜索結構,并在ImageNet測試集上進行測試,結果如表2所示:
我們的SGAS在性能超越了手工設計的網絡結構以及其他NAS算法。

聲明:
本文由入駐維科號的作者撰寫,觀點僅代表作者本人,不代表OFweek立場。如有侵權或其他問題,請聯(lián)系舉報。
請輸入評論內容...
請輸入評論/評論長度6~500個字