目录
一,Ollama
1.1 Ollama简介
1.2 Ollama下载与安装
编辑
二,Ollama指令集
2.1 通过Ollama在线下载deepseek模型
2.2 下载并运行相应的模型
一,Ollama
1.1 Ollama简介
Ollama 是一个本地部署大模型的开源项目,旨在简化大型语言模型(LLMs)的本地部署和使用。它提供了一个简单易用的框架,让用户能够在自己的设备上运行和微调各种语言模型,而无需依赖云服务或复杂的配置。Ollama 的目标是让开发者、研究人员和爱好者能够更轻松地探索和应用大型语言模型。
1.2 Ollama下载与安装
下载地址:
Download Ollama on Windows
安装完成启动后,会在任务栏中有下面的图标:
那么此时我们就可以通过命令行来操作Ollama工具了。
二,Ollama指令集
C:\Users\Administrator>ollama -h
Large language model runnerUsage:
ollama [flags]
ollama [command]Available Commands:
serve Start ollama
create Create a model from a Modelfile
show Show information for a model
run Run a model
stop Stop a running model
pull Pull a model from a registry
push Push a model to a registry
list List models
ps List running models
cp Copy a model
rm Remove a model
help Help about any commandFlags:
-h, --help help for ollama
-v, --version Show version informationUse "ollama [command] --help" for more information about a command.
2.1 通过Ollama在线下载deepseek模型
首先通过Ollama官网搜索deepseek模型,如下:
2.2 下载并运行相应的模型
通过指令下载并运行相应的模型,如下:
DeepSeek-R1-Distill-Qwen-1.5B
ollama run deepseek-r1:1.5b
DeepSeek-R1-Distill-Qwen-7B
ollama run deepseek-r1:7b
DeepSeek-R1-Distill-Llama-8B
ollama run deepseek-r1:8b
DeepSeek-R1-Distill-Qwen-14B
ollama run deepseek-r1:14b
DeepSeek-R1-Distill-Qwen-32B
ollama run deepseek-r1:32b
DeepSeek-R1-Distill-Llama-70B
ollama run deepseek-r1:70b
示例如下: