稀疏统计学习及其最新研究进展综述

稀疏性意谓可以仅用少数位于低维子空间的参数(特征变量)近似表示高维空间的复杂物理过程,是实际应用中普遍存在的性质.稀疏统计学习旨在探索高维数据的稀疏性,并进行统计建模和推断.文章综述了基于回归分析的稀疏统计学习模型及其最新研究进展.主要介绍了各类带有凸或非凸正则项的稀疏回归模型,特别是L1/2-正则化框架的算法和应用.近10年来,深度学习取得革命性进展,结合传统稀疏统计学习模型与深度神经网络的研究逐渐受到了广泛的关注.文章主要介绍了基于稀疏建模的深度学习方法和数据驱动的稀疏统计分析方法,前者包括深度网络展开等,后者则包括深度哈希学习及深度典型相关分析.最后,文章进行了总结,并展望了未来可能的研究方向.