您的位置：首页 > 文旅 > 美景 > 神经网络与深度学习——第15章序列生成模型

神经网络与深度学习——第15章序列生成模型

2024/10/7 19:26:41 来源：https://blog.csdn.net/a_blade_of_grass/article/details/139423575 浏览: 次关键词：神经网络与深度学习——第15章序列生成模型

本文讨论的内容参考自《神经网络与深度学习》https://nndl.github.io/ 第15章序列生成模型，习题还没做先存在这里。

序列生成模型

在这里插入图片描述

序列概率模型

在这里插入图片描述

序列生成

在这里插入图片描述

N元统计模型

在这里插入图片描述

深度序列模型

在这里插入图片描述

模型结构

在这里插入图片描述

嵌入层

在这里插入图片描述

特征层

在这里插入图片描述

输出层

在这里插入图片描述

参数学习

在这里插入图片描述

评价方法

在这里插入图片描述

困惑度

在这里插入图片描述

BLEU算法

在这里插入图片描述

ROUGE算法

在这里插入图片描述

序列生成模型中的学习问题

在这里插入图片描述

曝光偏差模型

在这里插入图片描述

训练目标不一致问题

在这里插入图片描述

计算效率问题

在这里插入图片描述

层次化Softmax

在这里插入图片描述

重要性采样

在这里插入图片描述

噪声对比估计

在这里插入图片描述

在这里插入图片描述

序列到序列模型

在这里插入图片描述

基于循环神经网络的序列到序列模型

在这里插入图片描述

基于注意力的序列到序列模型

在这里插入图片描述

基于自注意力的序列到序列模型

在这里插入图片描述

自注意力

在这里插入图片描述

多头自注意力

在这里插入图片描述

基于自注意力模型的序列编码

在这里插入图片描述

Transformer模型

在这里插入图片描述

总结和深入阅读

在这里插入图片描述

习题

在这里插入图片描述

在这里插入图片描述

版权声明:

本网仅为发布的内容提供存储空间，不对发表、转载的内容提供任何形式的保证。凡本网注明“来源：XXX网络”的作品，均转载自其它媒体，著作权归作者所有，商业转载请联系作者获得授权，非商业转载请注明出处。

我们尊重并感谢每一位作者，均已注明文章来源和作者。如因作品内容、版权或其它问题，请及时与我们联系，联系邮箱：809451989@qq.com，投稿邮箱：809451989@qq.com

最新新闻

热搜词

在K8S中，kube-proxy iptables原理是什么? 大数据新视界 --大数据大厂之大数据于基因测序分析的核心应用 - 洞悉生命信息的密钥 who命令：显示当前登录用户名百融云创被传赴港IPO急辟谣旗下信贷业务存众多质疑网站403forbidden怎么解决 2024高校网络安全管理运维赛 wp

声明：本站所有新闻及新闻图片来源于其他网站，如有侵权，请及时联系我们！

客户服务 | 关于我们 | 版权声明

版权所有：

Copyright 2024 尧图网 All Rights Reserved.QQ:809451989