一、引言
- 推断任务涉及模型接收文本输入并执行分析，如提取标签、实体、理解情感等。
- 传统机器学习需要大量工作：收集数据、训练模型、部署模型。
- LLM（大型语言模型）允许通过编写Prompt快速开始任务，无需大量工作。
- 可以使用单一模型和API执行多种任务，无需训练和部署多个模型。
from zhipuai import ZhipuAI
# 导入第三方库key = " "
zhipu_client = ZhipuAI(api_key = key)
def get_completion(prompt, model="glm-3-turbo"):messages = [{"role": "user", "content": prompt}]response = zhipu_client.chat.completions.create(model=model,messages=messages,temperature=0, # this is the degree of randomness of the model's output)return response.choices[0].message.content
二、情感推断与信息提取
2.1 情感分类
- 电商平台台灯评论的情感二分类（正向/负向）。
- 使用Prompt分类情感，输出结果为“积极”或“消极”。
# 中文
lamp_review_zh = """
我需要一盏漂亮的卧室灯，这款灯具有额外的储物功能，价格也不算太高。\
我很快就收到了它。在运输过程中，我们的灯绳断了，但是公司很乐意寄送了一个新的。\
几天后就收到了。这款灯很容易组装。我发现少了一个零件，于是联系了他们的客服，他们很快就给我寄来了缺失的零件！\
在我看来，Lumina 是一家非常关心顾客和产品的优秀公司！
"""
# 中文
prompt = f"""
以下用三个反引号分隔的产品评论的情感是什么？评论文本: ```{lamp_review_zh}```
"""
response = get_completion(prompt)
print(response)
prompt = f"""
以下用三个反引号分隔的产品评论的情感是什么？用一个单词回答：「正面」或「负面」。评论文本: ```{lamp_review_zh}```
"""
response = get_completion(prompt)
print(response)
2.2 识别情感类型
# 中文
prompt = f"""
识别以下评论的作者表达的情感。包含不超过五个项目。将答案格式化为以逗号分隔的单词列表。评论文本: ```{lamp_review_zh}```
"""
response = get_completion(prompt)
print(response)
2.3 识别愤怒
# 中文
prompt = f"""
以下评论的作者是否表达了愤怒？评论用三个反引号分隔。给出是或否的答案。评论文本: ```{lamp_review_zh}```
"""
response = get_completion(prompt)
print(response)
2.4 商品信息提取
2.5 综合完成任务
- 编写单个Prompt提取情感、愤怒、物品和品牌信息。
- 输出格式化为JSON对象，包含“Sentiment”、“Anger”、“Item”和“Brand”键。
# 中文
prompt = f"""
从评论文本中识别以下项目：
- 情绪（正面或负面）
- 审稿人是否表达了愤怒？（是或否）
- 评论者购买的物品
- 制造该物品的公司评论用三个反引号分隔。将您的响应格式化为 JSON 对象，以 “Sentiment”、“Anger”、“Item” 和 “Brand” 作为键。
如果信息不存在，请使用 “未知” 作为值。
让你的回应尽可能简短。
将 Anger 值格式化为布尔值。评论文本: ```{lamp_review_zh}```
"""
response = get_completion(prompt)
print(response)
三、主题推断
# 中文
story_zh = """
在政府最近进行的一项调查中，要求公共部门的员工对他们所在部门的满意度进行评分。
调查结果显示，NASA 是最受欢迎的部门，满意度为 95％。一位 NASA 员工 John Smith 对这一发现发表了评论，他表示：
“我对 NASA 排名第一并不感到惊讶。这是一个与了不起的人们和令人难以置信的机会共事的好地方。我为成为这样一个创新组织的一员感到自豪。”NASA 的管理团队也对这一结果表示欢迎，主管 Tom Johnson 表示：
“我们很高兴听到我们的员工对 NASA 的工作感到满意。
我们拥有一支才华横溢、忠诚敬业的团队，他们为实现我们的目标不懈努力，看到他们的辛勤工作得到回报是太棒了。”调查还显示，社会保障管理局的满意度最低，只有 45％的员工表示他们对工作满意。
政府承诺解决调查中员工提出的问题，并努力提高所有部门的工作满意度。
"""
3.1 推断讨论主题
- 确定文本中讨论的五个主题，每个主题用1-2个单词描述，输出为逗号分隔的列表。
# 中文
prompt = f"""
确定以下给定文本中讨论的五个主题。每个主题用1-2个单词概括。输出时用逗号分割每个主题。给定文本: ```{story_zh}```
"""
response = get_completion(prompt)
print(response)
3.2 为特定主题制作新闻提醒
- 确定特定主题列表中的每个项目是否是文本中的主题，输出为0或1的答案列表。
- 根据输出结果，可以生成新闻提醒，例如关于NASA的新消息。
# 中文
prompt = f"""
判断主题列表中的每一项是否是给定文本中的一个话题，以列表的形式给出答案，每个主题用 0 或 1。主题列表：美国航空航天局、当地政府、工程、员工满意度、联邦政府给定文本: ```{story_zh}```
"""
response = get_completion(prompt)
print(response)
topic_dict = {}
for i in response.split('\n'):words = i.split(': ')if len(words) > 1 and words[1].strip():topic_dict[words[0].strip()] = words[1].strip()
print(topic_dict)
if topic_dict['- 美国航空航天局'] == '1':print("提醒: 关于美国航空航天局的新消息")
总结
- 使用LLM和Prompt可以快速构建用于文本推理的系统，无需传统机器学习的复杂流程。
- 可以快速执行情感分析、信息提取和主题推断等NLP任务。
- 这种方法对于熟练的机器学习开发人员和新手都非常有用，可以显著提高开发速度。
