您的位置:首页 > 科技 > 能源 > 家装修效果图大全_网络架构师工资_郑州整站关键词搜索排名技术_免费的b2b平台

家装修效果图大全_网络架构师工资_郑州整站关键词搜索排名技术_免费的b2b平台

2025/4/8 4:34:39 来源:https://blog.csdn.net/xzzteach/article/details/147024227  浏览:    关键词:家装修效果图大全_网络架构师工资_郑州整站关键词搜索排名技术_免费的b2b平台
家装修效果图大全_网络架构师工资_郑州整站关键词搜索排名技术_免费的b2b平台

企业内部可能有些数据比较敏感,不能连接互联网。deepseek来提高工作效率,这个时候你可以利用ollama在内网本地部署来实现。

本式样是先在自己电脑上用虚拟机部署好,再用U盘把虚拟机文件复制到内网去。

一、使用VMware新建WIN2022虚拟机

(本步骤省略)

二、使用ollama部署本地LLM模型

  1. 下载ollama
    官网https://ollama.com/下载自已电脑对应的ollama 版本。

在这里插入图片描述
在这里插入图片描述
下载太慢的请看这里,我用移动的宽带下特别快
两个文件下到同一目录,用360解压缩
https://download.csdn.net/download/xzzteach/90571904
https://download.csdn.net/download/xzzteach/90571885

  1. 安装ollama

注意:
Ollama安装包默认只能安装到C盘,Ollama本身大概会占用4GB左右;
如果大家都C盘空间充足的话可以直接双击打开安装包点击安装即可;
建议将Ollama安装包放到想要安装的路径下,本实验安装在 D:\Ollama

  1. 在安装文件目录中进入CMD

在这里插入图片描述
2. 输入安装指令

OllamaSetup.exe /DIR=D:\Ollama

在这里插入图片描述
在这里插入图片描述

  1. 本地部署DeepSeek
    选择模型并下载
    打开Ollama官网,点击顶部的Models链接,此时我们就会看到deepseek-r1模型排在第一位,如下图所示:

在这里插入图片描述

这里以14B模型为例(推荐使用移动宽带这样下载快一些)

ollama run deepseek-r1:14b

在这里插入图片描述

在这里插入图片描述
4. 搭建个人知识库
输入指令

ollama pull shaw/dmeta-embedding-zh

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

  1. 安装python3.11
    https://download.csdn.net/download/xzzteach/90572963
  2. 安装Open WebUI
pip install open-webui -i https://mirrors.aliyun.com/pypi/simple/
  1. 启动Open WebUI
open-webui serve

版权声明:

本网仅为发布的内容提供存储空间,不对发表、转载的内容提供任何形式的保证。凡本网注明“来源:XXX网络”的作品,均转载自其它媒体,著作权归作者所有,商业转载请联系作者获得授权,非商业转载请注明出处。

我们尊重并感谢每一位作者,均已注明文章来源和作者。如因作品内容、版权或其它问题,请及时与我们联系,联系邮箱:809451989@qq.com,投稿邮箱:809451989@qq.com