苏州软件定制开发公司_设计页面尺寸图_114啦网址导航官网_今日西安头条最新消息

前言

为了让聊天更加智能化，体验更好，打算搞个聊天历史对话，让 deepseek 可以结合上下文回答。

一、准备环境

ollama，用于在本地运行、部署和管理大型语言模型（LLMs）。
deepseek 模型，本文用的 deepseek-r1:14b。
langchain，大语言模型应用程序的开发框架，主要 python 实现。

二、开发思路

使用 langchain 的 SQLChatMessageHistory 模块管理聊天历史记录，每段对话一个 session_id。
将聊天历史记录存储在 sqlite 数据库。
设置聊天上下文最大次数，即多轮对话次数，达到之后清空聊天记录。

三、代码解读

初始化 llm

# 设置Ollama的主机和端口
os.environ["OLLAMA_HOST"] = "127.0.0.1"
os.environ["OLLAMA_PORT"] = "11434"def get_llm():# 定义提示模板template = """你是一个专业的助手，请根据用户的问题，生成详细且专业的回答。用户的问题：{input}"""prompt = ChatPromptTemplate.from_template(template)# 初始化Ollama模型model = OllamaLLM(model="deepseek-r1:14b")# 创建链llm = prompt | modelreturn llm

初始化聊天历史

# 初始化聊天历史
def get_session_history(session_id):return SQLChatMessageHistory(session_id, "sqlite:///chat_history.db")

基于聊天历史对话

def start_chat_history(input, session_id):# 判断是否新起对话delete_chat_history(session_id)# 初始化llmllm = get_llm()# 创建带历史记录的链runnable_with_history = RunnableWithMessageHistory(llm,get_session_history,input_messages_key="input"  # 明确指定输入键)# 提问参数translation_params = {"input": input}# 执行调用return runnable_with_history.stream(translation_params,config={"configurable": {"session_id": session_id}})

达到最大对话记录清空历史

先看下 chat_history.db 的表结构

在这里插入图片描述
session_id 是个字符串类型，别的系统调用时可以把用户的 user_id 之类的作为对话标识，代码如下：

# 查询对话历史
def query_by_session_id(session_id):conn = sqlite3.connect('chat_history.db')curs = conn.cursor()sql = 'SELECT count(1) FROM message_store WHERE session_id = '+ session_idcurs.execute(sql)results = curs.fetchall()curs.close()conn.close()return results# 删除对话历史
def delete_by_session_id(session_id):conn = sqlite3.connect('chat_history.db')curs = conn.cursor()sql = 'DELETE FROM message_store WHERE session_id = '+ session_idcurs.execute(sql)conn.commit()curs.close()conn.close()# 达到最大对话记录清空历史
def delete_chat_history(session_id):history_count = query_by_session_id(session_id)count = history_count[0][0]# 一个对话两条记录，一个用户，一个AIif count >= MAX_CHAT * 2:delete_by_session_id(session_id)

五、完整代码

import osimport sqlite3
from langchain_ollama.llms import OllamaLLM
from langchain_core.prompts import ChatPromptTemplate
from langchain_core.runnables.history import RunnableWithMessageHistory
from langchain_community.chat_message_histories import SQLChatMessageHistory# 多轮对话次数
MAX_CHAT = 3# 设置Ollama的主机和端口
os.environ["OLLAMA_HOST"] = "127.0.0.1"
os.environ["OLLAMA_PORT"] = "11434"def get_llm():# 定义提示模板template = """你是一个专业的助手，请根据用户的问题，生成详细且专业的回答。用户的问题：{input}"""prompt = ChatPromptTemplate.from_template(template)# 初始化Ollama模型model = OllamaLLM(model="deepseek-r1:14b")# 创建链llm = prompt | modelreturn llm# 查询对话历史
def query_by_session_id(session_id):conn = sqlite3.connect('chat_history.db')curs = conn.cursor()sql = 'SELECT count(1) FROM message_store WHERE session_id = '+ session_idcurs.execute(sql)results = curs.fetchall()curs.close()conn.close()return results# 删除对话历史
def delete_by_session_id(session_id):conn = sqlite3.connect('chat_history.db')curs = conn.cursor()sql = 'DELETE FROM message_store WHERE session_id = '+ session_idcurs.execute(sql)conn.commit()curs.close()conn.close()# 达到最大对话记录清空历史
def delete_chat_history(session_id):history_count = query_by_session_id(session_id)count = history_count[0][0]# 一个对话两条记录，一个用户，一个AIif count >= MAX_CHAT * 2:delete_by_session_id(session_id)# 初始化聊天历史
def get_session_history(session_id):return SQLChatMessageHistory(session_id, "sqlite:///chat_history.db")def start_chat_history(input, session_id):# 判断是否新起对话delete_chat_history(session_id)# 初始化llmllm = get_llm()# 创建带历史记录的链runnable_with_history = RunnableWithMessageHistory(llm,get_session_history,input_messages_key="input"  # 明确指定输入键)# 提问参数translation_params = {"input": input}# 执行调用return runnable_with_history.stream(translation_params,config={"configurable": {"session_id": session_id}})stream = start_chat_history("风景", "1")
for chunk in stream:print(chunk, end="", flush=True)