CVPR 2020: SGAS，一種基于貪心思想的CNN/GCN網(wǎng)絡(luò)結(jié)構(gòu)搜索算法
根據(jù)這三個影響邊選擇的三個因素，我們提出了兩個選擇指標：
指標1 ：具有高的邊重要性和高的邊確定性的邊將被選擇，公式為：
指標2：在指標1的基礎(chǔ)上，被選擇的邊也應(yīng)該具有較高的穩(wěn)定性：
這里，normalize（·）指 Min－Max標準化。
實驗結(jié)果
我們搜索了CNN和GCN網(wǎng)絡(luò)結(jié)構(gòu)，并在CIFAR，ImageNet圖像分類，ModelNet點云分類，PPI生物圖數(shù)據(jù)節(jié)點分類上達到了SOTA效果。
CNN
我們將SGAS用到CNN的網(wǎng)絡(luò)結(jié)構(gòu)搜索中， CNN網(wǎng)絡(luò)結(jié)構(gòu)由普通單元（normalcell） 和 歸約單元（reduction cell）組成。普通單元保持特征圖大小不變，歸約單元縮小特征圖至． CNN任務(wù)中，搜索空間由8個運算組成：skip－connect，max－pool－3×3， avg－pool－3×3， sep－conv－3×3， sep－conv5×5， dil－conv－3×3，dil－conv－5×5， zero。
SGAS在CIFAR－10的訓(xùn)練集與驗證集搜索結(jié)構(gòu)，并在測試集上進行測試，結(jié)果如表1所示：
SGAS在CIFAR－10的訓(xùn)練集與驗證集搜索結(jié)構(gòu)，并在ImageNet測試集上進行測試，結(jié)果如表2所示：
我們的SGAS在性能超越了手工設(shè)計的網(wǎng)絡(luò)結(jié)構(gòu)以及其他NAS算法。
分享
請輸入評論內(nèi)容...
請輸入評論/評論長度6~500個字
最新活動更多
推薦專題
-
8 每日AI全球觀察
- 1 特斯拉工人被故障機器人打成重傷，索賠3.6億
- 2 【行業(yè)深度研究】退居幕后四年后，張一鳴終于把算法公司變成AI公司？
- 3 AI 時代，阿里云想當“安卓” ，那誰是“蘋果”？
- 4 拐點已至！匯川領(lǐng)跑工控、埃斯頓份額第一、新時達海爾賦能扭虧為盈
- 5 硬剛英偉達！華為發(fā)布全球最強算力超節(jié)點和集群
- 6 隱退4年后，張一鳴久違現(xiàn)身！互聯(lián)網(wǎng)大佬正集體殺回
- 7 L3自動駕駛延期，逼出車企技術(shù)自我淘汰
- 8 谷歌“香蕉”爆火啟示：國產(chǎn)垂類AI的危機還是轉(zhuǎn)機？
- 9 00后華裔女生靠兩部AI電影狂賺7.8億人民幣，AI正式進軍好萊塢
- 10 機器人9月大事件｜3家國產(chǎn)機器人沖刺IPO，行業(yè)交付與融資再創(chuàng)新高！
