【深度】自动化所提出多自由度网络架构协同搜索新方法

【摘要】中科院自动化所智能感知与计算研究中心提出一种新的多自由度网络架构自动搜索方法，能够稳定高效地从庞大的架构空间中搜索到准确性高的网络架构，同时严格满足时延约束。该论文已被ECCV2020大会接收。

图1 三自由度网络架构搜索框架图

为了解决上述问题，该方法对当前主流的可微分网络架构搜索算法进行实验分析，从算子、深度和宽度三个维度出发，通过简单精妙的设计，分别提出了双路采样算法、汇点连接空间和弹性缩放策略，如图1所示。

对于算子层面的搜索，该方法实验发现现有的单路采样方法会导致算子崩溃现象发生，即在搜索过程的早期阶段算法就在某些搜索层中聚焦于某一个特定的算子，并在余下的搜索过程中陷入其中保持不变，这会导致搜索到非最优的网络架构。针对此问题，该方法设计了多种采样方式，通过实验发现加入随机路径采样的双路采样方法可以有效地缓解算子崩溃现象发生。

对于深度层面的搜索，现有算法通常直接将跨层(Skip)算子加入到待搜索候选算子集中。然而，由于跨层算子的非参数性以及与其他算子的互斥性，这种设计方式会导致网络深度的搜索不稳定，在整个搜索过程中有非常大的抖动，如图2(a)。此外，跨层算子的直接加入也会引起架构冗余现象发生，如图2(b)。为了解决这个问题，该方法设计了一个汇点连接搜索空间(图1(c))，将跨层算子的搜索剥离出来，增加深度搜索的稳定性，同时汇点连接的方式也巧妙地解决了架构冗余问题。

图2 (a)搜索过程中架构深度变化; (b)架构冗余

对于宽度层面的搜索，该方法发现由于宽度搜索空间粗粒度的离散性和无界的资源约束目标函数项，使得现有方法很难搜索到严格满足特定资源约束的网络架构(图4)，并对资源约束目标函数项的超参数设置十分敏感。为了缓解这些问题，该方法提出了弹性缩放策略在搜索过程中动态自适应地调整超网络中每一搜索层中每一搜索算子的宽度，如图1(d)和图3。

图3 弹性缩放策略

图4 不同资源约束目标函数项下弹性缩放的有效性

该方法的架构搜索和验证均在大尺度ImageNet-1K数据集上进行。在使用单张Titan RTX GPU的情况下，提出的方法在ImageNet-1K上仅用1.8天搜索到76.9% top-1准确性的网络架构，在准确性和推断时延上均超越Google的EfficientNet-B0。

[1] Yibo Hu, Xiang Wu, Ran He*. TF-NAS: Rethinking Three Search Freedoms of Latency-Constrained Differentiable Neural Architecture Search. ECCV 2020.

[2] Zhihang Li, Teng Xi, Jiankang Deng, Gang zhang, Shengzhao Wen, Ran He*. GP-NAS: Gaussian Process based Neural Architecture Search. CVPR 2020.

https://github.com/AberHu/TF-NAS