恐怖网站代码_网站维护的基本内容有哪些_微博推广方式_站长工具一区

ollma安装

官网下载直接下一步下一步即可，没有魔法的朋友可以留言，文章中所用到的文件也给打包了，大家可以直接下载使用通过云盘下载使用。

链接: https://pan.baidu.com/s/12zF9MpQtg1bnMDAQayaSyg 提取码: n9rm 

官网地址：https://ollama.com/
安装完成后打开控制面板输入Download列表中的命令进行模型下载和运行，完成这步后ollma已经可以使用了在cmd中。

Model	Parameters	Size	Download
Llama 3.3	70B	43GB	ollama run llama3.3
Llama 3.2	3B	2.0GB	ollama run llama3.2
Llama 3.2	1B	1.3GB	ollama run llama3.2:1b
Llama 3.2 Vision	11B	7.9GB	ollama run llama3.2-vision
Llama 3.2 Vision	90B	55GB	ollama run llama3.2-vision:90b
Llama 3.1	8B	4.7GB	ollama run llama3.1
Llama 3.1	405B	231GB	ollama run llama3.1:405b
Phi 3 Mini	3.8B	2.3GB	ollama run phi3
Phi 3 Medium	14B	7.9GB	ollama run phi3:medium
Gemma 2	2B	1.6GB	ollama run gemma2:2b
Gemma 2	9B	5.5GB	ollama run gemma2
Gemma 2	27B	16GB	ollama run gemma2:27b
Mistral	7B	4.1GB	ollama run mistral
Moondream 2	1.4B	829MB	ollama run moondream
Neural Chat	7B	4.1GB	ollama run neural-chat
Starling	7B	4.1GB	ollama run starling-lm
Code Llama	7B	3.8GB	ollama run codellama
Llama 2 Uncensored	7B	3.8GB	ollama run llama2-uncensored
LLaVA	7B	4.5GB	ollama run llava
Solar	10.7B	6.1GB	ollama run solar

Dify安装

1.docker安装

官网地址：https://www.docker.com/
下载完成后，下一步，下一步即可。

如果安装了git我们可以直接使用git命令讲Dify项目拉取到本地，如果未安装直接下载ZIP即可。

2.Dify安装

#通过docker的命令行面板进入项目的docker目录
cd dify
cd docker
#输入以下命令等待镜像下载完成即可！
cp .env.example .env
docker compose up -d

ollma与Dify集成

1.Dify设置

完成上述操作后通过 http://localhost/install 进入Dify界面，设置登录的账号和密码。

关闭操作1中咱们启动的ollama，使用ollama serve直接启动

接下来来到Dify系统的用户设置中，设置我们本地运行的ollma模型，这里要注意的是模型名称和基础 URL
因为是docker启动的Dify，基础 URL：http://host.docker.internal:11434

模型名称：使用ollma list 查看模型信息，一定要使用 NAME列中的所有字符

功能

我们可以上传自己的本地资料作为知识库的基础信息，也可以创建一些我们我自己应用。