您的位置:首页 > 房产 > 建筑 > 项目计划书团队介绍_广州app制作开发_seo推广什么意思_成都seo工程师

项目计划书团队介绍_广州app制作开发_seo推广什么意思_成都seo工程师

2024/12/25 14:29:07 来源:https://blog.csdn.net/cancer_s/article/details/144338040  浏览:    关键词:项目计划书团队介绍_广州app制作开发_seo推广什么意思_成都seo工程师
项目计划书团队介绍_广州app制作开发_seo推广什么意思_成都seo工程师

LLM 时代 prompt 这个词对于每个使用者和开发者来说已经听得滚瓜烂熟,那么到底什么是 prompt 呢?简单来说,prompt(提示)就是用户与大模型交互输入的代称。即我们给大模型的输入称为 Prompt,而大模型返回的输出一般称为 Completion。

对于具有较强自然语言理解、生成能力,能够实现多样化任务处理的大语言模型(LLM)来说,一个好的 Prompt 设计极大地决定了其能力的上限与下限。如何去使用 Prompt,以充分发挥 LLM 的性能?首先我们需要知道设计 Prompt 的原则,它们是每一个开发者设计 Prompt 所必须知道的基础概念。本节讨论了设计高效 Prompt 的两个关键原则:编写清晰、具体的指令和给予模型充足思考时间。掌握这两点,对创建可靠的语言模型交互尤为重要。

原则一:编写清晰,具体的指令

Prompt需要清晰明确的表达需求,提供充足的上下文,是语言模型理解我们的意图。并不是说Prompt必须得短小简洁,过于简单的Prompt往往会使模型难以把握所要完成的具体任务;而更长、更复杂的Prompt能够提供更丰富的上下文和细节,让模型可以更准确的把握所需的操作和响应方式,给出更符合预期的回复。

从原则出发,Prompt有以下几个技巧:

使用分隔符清晰地表示输入的不同部分

在编写 Prompt 时,我们可以使用各种标点符号作为“分隔符”,将不同的文本部分区分开来。分隔符就像是 Prompt 中的墙,将不同的指令、上下文、输入隔开,避免意外的混淆。你可以选择用 ```,“”",< >, ,: 等做分隔符,只要能明确起到隔断作用即可。

使用分隔符尤其需要注意的是要防止提示词注入(Prompt Rejection)。

什么是提示词注入?
就是用户输入的文本可能包含与你的预设 Prompt 相冲突的内容,如果不加分隔,这些输入就可能“注入”并操纵语言模型,轻则导致模型产生毫无关联的不正确的输出,严重的话可能造成应用的安全风险。

寻求结构化的输出

有时候我们需要语言模型给我们一些结构化的输出,而不仅仅是连续的文本。什么是结构化输出呢?就是按照某种格式组织的内容,例如 JSON、HTML 等。

要求模型检查是否满足条件

如果任务包含不一定能满足的假设(条件),我们可以告诉模型先检查这些假设,如果不满足,则会指 出并停止执行后续的完整流程。您还可以考虑可能出现的边缘情况及模型的应对,以避免意外的结果或 错误发生。

提供少量示例

“Few-shot” prompting(少样本提示),即在要求模型执行实际任务之前,给模型提供一两个参考样例,让模型了解我们的要求和期望的输出样式。

利用少样本样例,我们可以轻松“预热”语言模型,让它为新的任务做好准备。这是一个让模型快速上手新 任务的有效策略。

原则二:给模型时间去思考

在设计 Prompt 时,给予语言模型充足的推理时间非常重要。语言模型与人类一样,需要时间来思考并解决复杂问题。如果让语言模型匆忙给出结论,其结果很可能不准确。例如,若要语言模型推断一本书的主题,仅提供简单的书名和一句简介是不足够的。这就像让一个人在极短时间内解决困难的数学题,错误在所难免。

相反,我们应通过 Prompt 引导语言模型进行深入思考。可以要求其先列出对问题的各种看法,说明推理依据,然后再得出最终结论。在 Prompt 中添加逐步推理的要求,能让语言模型投入更多时间逻辑思维,输出结果也将更可靠准确。

综上所述,给予语言模型充足的推理时间,是 Prompt Engineering 中一个非常重要的设计原则。这将大大提高语言模型处理复杂问题的效果,也是构建高质量 Prompt 的关键之处。开发者应注意给模型留出思考空间,以发挥语言模型的最大潜力。

从该原则出发,设计 Prompt 的技巧如下所示:

指定完成任务所需要的步骤

通过给定一个复杂任务,给出完成该任务的一系列步骤,来展示这一策略的效果。

text = f"""
在一个迷人的村庄里,兄妹杰克和吉尔出发去一个山顶井里打水。\
他们一边唱着欢乐的歌,一边往上爬,\
然而不幸降临——杰克绊了一块石头,从山上滚了下来,吉尔紧随其后。\
虽然略有些摔伤,但他们还是回到了温馨的家中。\
尽管出了这样的意外,他们的冒险精神依然没有减弱,继续充满愉悦地探索。
"""prompt = f"""
1-用一句话概括下面用<>括起来的文本。
2-将摘要翻译成英语。
3-在英语摘要中列出每个名称。
4-输出一个 JSON 对象,其中包含以下键:English_summary,num_names。
请使用以下格式:
摘要:<摘要>
翻译:<摘要的翻译>
名称:<英语摘要中的名称列表>
输出 JSON 格式:<带有 English_summary 和 num_names 的 JSON 格式>
Text: <{text}>
"""response = get_completion(prompt)
print("response :")
print(response)

指导模型在下结论之前找出一个自己的解法

在设计Prompt时,通过明确指导语言模型进行自主思考,来获得更好的效果。假设语言模型需要判断一个数学问题的解答是否正确。仅仅提供问题和解答时不够的,语言模型可能会匆忙的给出错误的判断。

相反,我们可以再Prompt中先要求语言模型尝试自己解决这个问题,思考出自己的解法,然后在提供解答进行对比,判断正确性。这种先让语言模型自主思考的方式,能够帮助模型更深入的理解问题,做出更准确的判断。

在开发与应用语言模型时,需要注意它们可能生成虚假信息的风险。尽管模型经过大规模预训练,掌握 了丰富知识,但它实际上并没有完全记住所见的信息,难以准确判断自己的知识边界,可能做出错误推断。若让语言模型描述一个不存在的产品,它可能会自行构造出似是而非的细节。这被称为“幻觉” (Hallucination),是语言模型的一大缺陷。

语言模型的幻觉问题事关应用的可靠性与安全性。开发者有必要认识到这一缺陷,并采取 Prompt优化、外部知识等措施予以缓解,以开发出更加可信赖的语言模型应用。这也将是未来语言模型进化的重要方向之一。

导致大模型出现幻觉的主要原因分为以下三点:

1、数据导致的幻觉问题

以知识边界为例,如果大模型未学习到该领域的知识,后者虽然学习到了,但是知识过时,或者是知识产生晚于模型数据产生时间等情况,均会导致大模型由于数据问题出现幻觉。

2、数据采样过程导致的模型幻觉

LLMs 往往依赖于捷径,而不是真正理解事实知识的细节。它们倾向于过度依赖预训练数据中的共现统计、共现频率和相关文档计数,这可能会引入对虚假相关性的偏见,如果这种偏见反映了事实上不正确的信息,可能会导致幻觉。长尾知识以其在预训练数据中的相对罕见性为特征,对 LLMs 构成了固有的挑战,它们主要依赖于共现模式来记忆事实知识。因此,当面临涉及这种长尾知识的查询时,LLMs 在生成事实上不准确的回答方面存在较高的风险。

3、预训练过程中导致的模型幻觉

一方面,可能受限于 Decoder-Only 架构,以及注意力机制的缺陷。大模型基于前一个标记预测下一个标记,仅从左到右。这种单向建模虽然促进了高效的训练,但也存在局限性。它仅利用单一方向的上下文,这阻碍了捕捉复杂的上下文依赖关系,可能增加幻觉的风险。self attention 模块在捕获长距离依赖关系方面表现出色。然而最近的研究表明,它们偶尔在算法推理的背景下表现出不可预测的推理错误,无论是长距离还是短距离依赖关系,无论模型规模大小。一个可能的原因是 soft attention 的局限性,随着序列长度的增加,注意力在各个位置之间变得稀释。

另一方面是曝光偏差的问题。这是由于自回归生成模型的训练和推理之间的差异造成的。在训练过程中,这些模型通常采用最大似然估计(MLE)的训练策略,其中真实标记作为输入提供。然而,在推理过程中,模型依赖于自己生成的标记进行后续预测。这种不一致性可能导致幻觉,尤其是当模型生成的错误标记在后续序列中引发错误级联时。

此外,微调对齐也会导致幻觉问题,大模型在预训练期间建立了固有的能力边界,当在微调数据中包含了预训练阶段未见过的新知识时,大模型被训练为生成超出自身知识边界的内容,增加了幻觉的风险。在模型对齐阶段,大模型也可能会产生谄媚的行为,其回应更倾向于用户的观点,而不是提供正确或真实的答案,这也会增加大模型幻觉现象。

版权声明:

本网仅为发布的内容提供存储空间,不对发表、转载的内容提供任何形式的保证。凡本网注明“来源:XXX网络”的作品,均转载自其它媒体,著作权归作者所有,商业转载请联系作者获得授权,非商业转载请注明出处。

我们尊重并感谢每一位作者,均已注明文章来源和作者。如因作品内容、版权或其它问题,请及时与我们联系,联系邮箱:809451989@qq.com,投稿邮箱:809451989@qq.com