一、CNN
卷积神经网络是近年发展起来,并广泛应用于图像处理,NLP等领域的一种多层神经网络
传统BP处理图像时的问题:
1、权值太多,计算量较大
2、权值太多,需要大量样本进行训练
CNN通过局部感受野和权值共享减少了神经网络需要训练的参数个数
二、卷积计算
三、Pooling与Padding
池化Pooling:
包括max-pooling、mean-pooling、stochastic-pooling
Padding:
SAME PADDING:给平面外部补0,卷积窗口采样后得到一个跟原来大小相同的平面
VALID PADDING:不会超出平面外部,卷积窗口采样后得到一个比原来平面小的平面
四、RNN
RNN是专门用来处理序列数据的神经网络。所谓序列数据指的是序列相关的数据,比如一段语音、一首歌曲、一段文字
序列模型应用:文本分类
RNN用法:通过当前信息来决策当前的问题