您的位置:首页 > 汽车 > 时评 > 【书生3.6】MindSearch 快速部署

【书生3.6】MindSearch 快速部署

2024/10/5 6:43:33 来源:https://blog.csdn.net/qqzhuimengren/article/details/141723778  浏览:    关键词:【书生3.6】MindSearch 快速部署

MindSearch 快速部署

    • 1 环境准备
    • 2 获取apikey
    • 3 启动MindSearch
      • 3.1 启动后端
      • 3.2 启动前端
      • 3.3 测试使用
    • 4 部署到HuggingFace Space
      • 4.1 创建space
      • 4.2 配置secret
      • 4.3 创建写权限的token
      • 4.4 创建本地仓库
      • 4.5 提交-推送
    • 5 测试验证

  • codespace主页:一个线上服务器。
  • 硅基流动:类似百川、通义这种线上文生文、文生图
  • HuggingFace Space: 提供了一个易于使用的GUI,用于构建和部署Web 托管的ML 演示及应用。 该服务使得用户可以快速构建ML 演示、上传要托管的自有应用,甚至即时部署多个预配置的ML 应用。

需要有github、hugging、 硅基流动账号

1 环境准备

打开codespace主页;需要有github账号

在这里插入图片描述

创建conda虚拟环境

# 创建环境
conda create -n mindsearch python=3.10 -y# 这里需要先
conda init
# 然后关闭终端,重启才可以使用# 激活环境
conda activate mindsearch
# 安装依赖
pip install -r /workspaces/mindsearch/MindSearch/requirements.txt

注意conda init;然后关闭终端,重启才可以使用

在这里插入图片描述

2 获取apikey

注册硅基流动

在这里插入图片描述

3 启动MindSearch

3.1 启动后端

#export SILICON_API_KEY=sk-srirwcbmyttigyacoabutufvdkkgl
export SILICON_API_KEY=第二步中复制的密钥
conda activate mindsearch
cd /workspaces/mindsearch/MindSearch
python -m mindsearch.app --lang cn --model_format internlm_silicon --search_engine DuckDuckGoSearch

3.2 启动前端

conda activate mindsearch
cd /workspaces/mindsearch/MindSearch
python frontend/mindsearch_gradio.py

在这里插入图片描述

3.3 测试使用

在这里插入图片描述

4 部署到HuggingFace Space

4.1 创建space

在这里插入图片描述

在这里插入图片描述

4.2 配置secret

在这里插入图片描述

4.3 创建写权限的token

在这里插入图片描述

4.4 创建本地仓库

  • 回到codespace
  • 把要提交的文件先整理出来
(base) @QiuZiXian ➜ /workspaces/codespaces-blank $ mkdir -p /workspaces/mindsearch/mindsearch_deploy
(base) @QiuZiXian ➜ /workspaces/codespaces-blank $ cd /workspaces/mindsearch
(base) @QiuZiXian ➜ /workspaces/mindsearch $ cp -r /workspaces/mindsearch/MindSearch/mindsearch /workspaces/mindsearch/mindsearch_deploy
(base) @QiuZiXian ➜ /workspaces/mindsearch $ cp /workspaces/mindsearch/MindSearch/requirements.txt /workspaces/mindsearch/mindsearch_deploy
(base) @QiuZiXian ➜ /workspaces/mindsearch $ touch /workspaces/mindsearch/mindsearch_deploy/app.py
(base) @QiuZiXian ➜ /workspaces/mindsearch $ vi /workspaces/mindsearch/mindsearch_deploy/app.py
(base) @QiuZiXian ➜ /workspaces/mindsearch $ cd /workspaces/mindsearch/mindsearch_deploy
  • 把huggingface上创建的库克隆下来(其实不用,直接对mindsearch_deploy设置git remote;本文仍按教程)
(base) @QiuZiXian ➜ /workspaces/mindsearch/mindsearch_deploy $ cd /workspaces/
(base) @QiuZiXian ➜ /workspaces $ ls
codespaces-blank  mindsearch
(base) @QiuZiXian ➜ /workspaces $ git clone https://huggingface.co/spaces/akufire/shusheng
# 把token挂到仓库上,让自己有写权限
git remote set-url space https://<你的名字>:<上面创建的token>@huggingface.co/spaces/<你的名字>/<仓库名称>
# 先cd到本地库
cd shusheng
# 注意这里是origin;不是space
git remote set-url origin https://akufire:hf_kcIiPgowyUbfXOAfttBZmWbb@huggingface.co/spaces/akufire/shusheng
# 注意-r
cp -r /workspaces/mindsearch/mindsearch_deploy/* .

4.5 提交-推送

git add .
git commit -m "update"
git push

在这里插入图片描述

5 测试验证

回到huggingface space:https://huggingface.co/spaces/akufire/shusheng

在这里插入图片描述

版权声明:

本网仅为发布的内容提供存储空间,不对发表、转载的内容提供任何形式的保证。凡本网注明“来源:XXX网络”的作品,均转载自其它媒体,著作权归作者所有,商业转载请联系作者获得授权,非商业转载请注明出处。

我们尊重并感谢每一位作者,均已注明文章来源和作者。如因作品内容、版权或其它问题,请及时与我们联系,联系邮箱:809451989@qq.com,投稿邮箱:809451989@qq.com