前置操作:
已经安装以下软件,并配置后:
- DeepSeek-R1-Distill-Llama-8B-Q4_K_M.gguf
- LM-Studio-0.3.10-6-x64
软件准备:
下载AnythingLLM:AnythingLLM | The all-in-one AI application for everyone
点击"Download for desktop"
选择相应版本,并点击下载:
双击可执行文件,按照提示安装:
LM Studio配置:
- 左侧选择
。
- 启动Status Running,并在上方选择加载模型。
- 选择设置:
AnythingLLM配置:
- 左上角新建工作区。
- 点击设置
。
- 在“聊天设置“中,选择:
- 在”代理配置”中选择:
- 选择左侧下方的
- LLM首选项:
- Embedder首选项:
- 返回工作区后,选择
- 在我的文档中点击,并上传本地文件:
- 上传成功后,勾选并点击“Move to Workshop”