DBN网络的深度确定方法
来源期刊：控制与决策2015年第2期
论文作者：潘广源 柴伟 乔俊飞
文章页码：256 - 260
关键词：深度信念网络;网络深度;无监督学习;数字识别;
摘 要：针对DBN网络隐含层层数难以选择的问题,首先从数学生物学角度分析了随机初始化的梯度下降法导致网络训练失败的原因,并进行验证,证明了RBM重构误差与网络能量的正相关定理;然后根据隐含层和误差的关系,提出一种基于重构误差的网络深度判断方法,在训练过程中自组织地训练网络,使其能够以一种接近人类处理问题的方式解决AI问题.手写数字识别的实验表明,该方法能够有效提高运算效率,降低运算成本.
潘广源，柴伟，乔俊飞
北京工业大学电子信息与控制工程学院
摘 要：针对DBN网络隐含层层数难以选择的问题,首先从数学生物学角度分析了随机初始化的梯度下降法导致网络训练失败的原因,并进行验证,证明了RBM重构误差与网络能量的正相关定理;然后根据隐含层和误差的关系,提出一种基于重构误差的网络深度判断方法,在训练过程中自组织地训练网络,使其能够以一种接近人类处理问题的方式解决AI问题.手写数字识别的实验表明,该方法能够有效提高运算效率,降低运算成本.
关键词：深度信念网络;网络深度;无监督学习;数字识别;
