您的位置:首页 > 新闻 > 资讯 > 网站首页设计参考_优设网的特点_济南seo关键词排名工具_seo赚钱吗

网站首页设计参考_优设网的特点_济南seo关键词排名工具_seo赚钱吗

2025/3/8 22:03:32 来源:https://blog.csdn.net/ganggangwawa/article/details/145926292  浏览:    关键词:网站首页设计参考_优设网的特点_济南seo关键词排名工具_seo赚钱吗
网站首页设计参考_优设网的特点_济南seo关键词排名工具_seo赚钱吗

He初始化+relu+softmax+交叉熵+卷积核,才是cnn,我们推导的公式:

\frac{\partial l}{\partial w1[i,j]}=\sum_{k=0}^{9}\frac{\partial l}{\partial z[k]}*\frac{\partial z[k]}{\partial yi[k]}*\frac{\partial yi[k]}{\partial ho[j]}*\frac{\partial ho[j]}{\partial hi[j]}*\frac{\partial hi[j]]}{\partial w1[i,j]}

=\sum_{k=0}^{9}(p【k】-y【k】)*drelu(yi[k])*w2[j, k]*drelu(hi[j])*x【i】

只能满足:He初始化+relu+softmax+交叉熵。

我们参考:

cnn突破七(四层bpnet网络公式与卷积核bpnet公式相关)_四层神经网络的输出公式-CSDN博客

中公式:

 \frac{\partial E}{\partial w1cnn[i]}=\sum_{k=0}^{9}\frac{\partial E}{\partial yo[k]}\frac{\partial yo[k]}{\partial yi[k]}\frac{\partial yi[k]]}{\partial h2o[m]}\frac{\partial h2o[m]}{\partial h2i[m]}\frac{\partial h2i[m]}{\partial hocnn[j]}\frac{\partial hocnn[m]}{\partial hicnn[j]}\frac{\partial hicnn[j]}{\partial w1cnn[i]}

=\sum_{k=0}^{9}(yo[k]-d[k])*ds(yo[k])*w2【m,k】*ds(h2o[m])*w12【j,m】*ds(hocnn[j])*x[i->?]

才能推导出he初始化+relu+softmax+交叉熵+卷积核=cnn公式:,这才是cnn

我们现在就x【i】使用卷积核的三层网络,我们把上面公式红色合并,变三层:

即: \frac{\partial E}{\partial w1cnn[i]}\sum_{k=0}^{9}(yo[k]-d[k])*ds(yo[k])*w2【j,k】*ds(hocnn[j])*x[i->?]

这是sigmoid推到的,relu的呢?如下:

  \frac{\partial E}{\partial w1cnn[i]}= \sum_{k=0}^{9}(p【k】-y【k】)*drelu(yi[k])*w2[j, k]*drelu(hi[j])*x【?】

现在w1cnn变成一个卷积核了,x不知道取什么值了,就是这个问题。

实际上,我们前面卷积核cnn中找x【?】的方法,一模一样,一个代码都不用改!

里边只改动e初始化+relu+softmax+交叉熵即可!

这就是站在自己肩上的好处!先实验1个卷积核,ok,再扩展!

我是直接在自己的八个卷积核上实验,ok

轻松上97分,今天见到98.1了!

我使用28*28gaos后,获得14*14图像作为网络输入,用了8个5*5 的卷积核!

14*14*8-》10*10*8-》5*5*8-》80-》10

上个图,庆祝一下!:

版权声明:

本网仅为发布的内容提供存储空间,不对发表、转载的内容提供任何形式的保证。凡本网注明“来源:XXX网络”的作品,均转载自其它媒体,著作权归作者所有,商业转载请联系作者获得授权,非商业转载请注明出处。

我们尊重并感谢每一位作者,均已注明文章来源和作者。如因作品内容、版权或其它问题,请及时与我们联系,联系邮箱:809451989@qq.com,投稿邮箱:809451989@qq.com