基于投票机制的神经架构搜索

针对现有神经架构搜索算法自动搜索到的网络架构与评估的网络架构之间存在较大差异的问题,提出了基于投票机制的神经架构搜索算法.首先,利用小批量训练数据上测试的训练损失作为性能估计器对候选网络进行采样,将计算资源集中于潜在的性能表现良好的候选网络架构,以解决均匀采样忽略了各网络架构之间重要性程度的问题;其次,对于各节点中候选操作难以选择的问题,利用组稀疏正则化策略对所有候选操作进行排名,以筛选出合适的候选操作,进一步提高Cell结构中路径选择的准确性;最后,将可微架构搜索策略、噪声策略和组稀疏正则化策略加以融合,以加权投票的方法选择出最优的Cell结构,构建出性能优秀的三维模型识别与分类网络架构.在数据集ModelNet40上的实验结果表明,所构建的网络对三维模型的分类准确率达到了93.9％,优于目前的主流算法.本算法有效缩小了搜索和评估阶段网络架构之间的差异,解决了以往神经架构搜索方法中均匀采样所导致的网络训练效率低的问题.