您的位置:首页 > 文旅 > 美景 > 大模型快速部署,以浪潮源2.0为例

大模型快速部署,以浪潮源2.0为例

2024/12/23 11:00:38 来源:https://blog.csdn.net/weixin_46503355/article/details/141067555  浏览:    关键词:大模型快速部署,以浪潮源2.0为例

step1: 申请PAI-DSW试用

在这里插入图片描述

step2:魔塔社区授权

在这里插入图片描述

在这里插入图片描述

由于本地授权一直失败,于是采用了魔塔免费平台实例进行学习。

搭建好之后,打开就有相关页面了:

在这里插入图片描述

demo搭建:

按照官方提示的步骤进行搭建,内容如下:

输入命令

文件下载

git lfs install
git clone https://www.modelscope.cn/datasets/Datawhale/AICamp_yuan_baseline.git

在这里插入图片描述

环境安装

pip install streamlit==1.24.0

在这里插入图片描述

启动demo

streamlit run AICamp_yuan_baseline/Task\ 1:零基础玩转源大模型/web_demo_2b.py --server.address 127.0.0.1 --server.port 6006

在这里插入图片描述

然后点击链接,先加载一段时间的模型,然后就开始尝试对话

在这里插入图片描述

尝试对话的结果如下:

在这里插入图片描述

在这里插入图片描述

版权声明:

本网仅为发布的内容提供存储空间,不对发表、转载的内容提供任何形式的保证。凡本网注明“来源:XXX网络”的作品,均转载自其它媒体,著作权归作者所有,商业转载请联系作者获得授权,非商业转载请注明出处。

我们尊重并感谢每一位作者,均已注明文章来源和作者。如因作品内容、版权或其它问题,请及时与我们联系,联系邮箱:809451989@qq.com,投稿邮箱:809451989@qq.com