【GPT入门】第32课 langsmith介绍与实战
- 1.lang smith作用
- 2.lang smith配置方法
- 3. 上手第一个lang smith
- 3.1 可运行代码
- 3.2 lang smith 官网,个人项目下
1.lang smith作用
LangSmith是由LangChain开发的一个平台,主要用于构建生产级LLM应用程序,在LLM开发过程中具有多方面的重要作用:
- 无缝集成:提供API和SDK,能让开发者轻松地将各种LLMs集成到现有项目中,大大简化开发流程,使开发者可以快速将新的语言模型引入到应用中,而无需大量代码重写。
- 性能监控:通过实时分析和日志记录功能,开发者能够跟踪模型性能,识别需要改进的领域。可实时监控模型的运行状况,及时发现并解决问题,提高应用的可靠性和用户体验。例如,能监控Token的消耗、模型调用的耗时等信息,并按照不同维度进行分析,如项目、大模型的类型等。
- 版本控制:支持版本控制,方便开发者跟踪模型的不同版本,在需要时可轻松回滚到之前的迭代,有助于在开发过程中保持灵活性,确保能使用最适合当前需求的模型版本。
- 协作支持:通过共享工作区和版本历史记录,促进了团队成员之间的沟通和协作,提高开发效率。
- LLM切换:允许开发者为每个特定用例选择最合适的模型,优化整个应用的性能。例如,根据不同任务场景,如文本生成、问答等,选择在相应任务上表现更优的模型,还能在性能和成本之间进行平衡,为要求不高的任务选择更经济的模型选项。并且,其完善的接口和配置功能使LLM切换过程简单易行,提供统一管理界面,让开发者直观了解不同模型的性能特点和适用场景,更准确地进行模型切换决策。
- 调试与测试:简化了调试和测试大型语言模型应用程序的过程,其直观的界面和强大的功能使开发者更容易识别和修复代码中的问题,节省时间和资源,让开发者能专注于应用开发的其他方面。例如,开发者可以通过LangSmith查看AI Agent内部调用链,以及模型每一步的输入和输出信息,方便找出导致问题的环节。
- 评估应用:提供评估模型,帮助开发者评估应用的正确性和有用性。通过评估分数,开发者能更深入地了解应用的性能,识别需要改进的地方,对于确保语言模型驱动的应用程序提供准确和有价值的结果至关重要。
- 数据管理:平台允许开发者创建用于测试和评估的数据集,通过输入参考输出并与模型的响应进行比较,来衡量应用的准确性和可靠性,这对于不断提高语言模型驱动应用程序的质量至关重要。
2.lang smith配置方法
os.environ[“LANGCHAIN_TRACING_V2”]=“true”
os.environ[“LANGCHAIN_PROJECT”]=“fire-001”
也可以使用,官网的配置:
3. 上手第一个lang smith
3.1 可运行代码
import os
from dotenv import load_dotenv
load_dotenv()
from langchain.schema.output_parser import StrOutputParser
from langchain.prompts.chat import HumanMessagePromptTemplate
from langchain.prompts import ChatPromptTemplateos.environ["LANGCHAIN_TRACING_V2"]="true"
os.environ["LANGCHAIN_PROJECT"]="fire-001"
# model = ChatOpenAI()
from langchain_community.chat_models import ChatTongyi
model = ChatTongyi(model="qwen-max",api_key=os.getenv("DASHSCOPE_API_KEY"),base_url=os.getenv("DASHSCOPE_BASE_URL")
)
prompt_template = """
我的名字叫{name}。
请根据我的名字,帮我想一段有吸引力的自我介绍的句子
"""
prompt = ChatPromptTemplate.from_messages([HumanMessagePromptTemplate.from_template(prompt_template)
])# 定义输出解析器
parser = StrOutputParser()chain = (prompt| model| parser
)## invoke的第一个参数,传入json格式的参数,key与prompt中的参数名一致
response = chain.invoke({'name': '我是星火老师'})
print(response)
3.2 lang smith 官网,个人项目下
主页面:
setup页面: