您的位置:首页 > 娱乐 > 明星 > 直播软件排行榜前十名_360建筑网已经发布的信息在哪里看_长沙市云网站建设_全球搜索引擎排名

直播软件排行榜前十名_360建筑网已经发布的信息在哪里看_长沙市云网站建设_全球搜索引擎排名

2025/3/11 15:26:03 来源:https://blog.csdn.net/Chrsitina_S/article/details/145990106  浏览:    关键词:直播软件排行榜前十名_360建筑网已经发布的信息在哪里看_长沙市云网站建设_全球搜索引擎排名
直播软件排行榜前十名_360建筑网已经发布的信息在哪里看_长沙市云网站建设_全球搜索引擎排名

!!!不要安装opencompass

下载github官网包:https://github.com/open-compass/opencompass

介绍一下如何通过vllm-api的形式测试deepseek

1. 找到官方测试deepseek的文件

地址:opencompass/configs/models/deepseek
在这里插入图片描述
这里面有很多文件,基本都是本地部署的
在这里插入图片描述

2. Deepseek_api接口文件位置

这个接口文件的位置在
opencompass/models/deepseek_api.py
在opencompass/models/文件夹下有很多模型的api接口文件,通过这个文件可以看到具体要传入什么参数:比如,path,key,url等等
在这里插入图片描述

3. 定义Models

需要在这个位置opencompass/configs/models/deepseek
进行定义和调用api.py文件,
需要将DeepseekAPI从 opencompass位置引用过来
models里面的dict就是按照API接口,需要什么参数就输入什么参数就好了。这样就把Deepseek模型的API调用接口定义完了。

from opencompass.models import DeepseekAPIapi_meta_template = dict(round=[dict(role='HUMAN', api_role='HUMAN'),dict(role='BOT', api_role='BOT', generate=True),
], )models = [dict(abbr='Qwen2.5-7B-R1',type=DeepseekAPI,path='Qwen2.5-7B-R1',key='EMPTY',  # The key will be obtained from $OPENAI_API_KEY, but you can write down your key here as wellurl='http://0.0.0.0:8052/v1/chat/completions',meta_template=api_meta_template,query_per_second=1,max_out_len=8192,max_seq_len=4096,batch_size=2),
]

4. Models和datasets的组合

比如,我要测试deepseek的math和ceval的指标
在examples中新建一个文件eval_deepseek_openai.py
测试数据位置:opencompass/configs/datasets(官网给的数据真的很全,没有就自己下载一下)
数据集地址

wget https://github.com/open-compass/opencompass/releases/download/0.2.2.rc1/OpenCompassData-core-20240207.zip
unzip OpenCompassData-core-20240207.zip
from mmengine.config import read_basewith read_base():# 引入datasetfrom opencompass.configs.datasets.ceval.ceval_gen import \ceval_datasetsfrom opencompass.configs.datasets.math.math_gen import \math_datasets# 引入modelfrom opencompass.configs.models.deepseek.openai_deepseek import \models as deepseekdatasets = ceval_datasets + math_datasets
models = deepseek

5. python运行

这个项目入口文件run.py,直接用下面的命令运行就好了

python run.py examples/eval_deepseek_openai.py

6. 环境安装

如果发生了各种和注册相关的问题,先自查一下有没有在环境中安装opencompass包,如果安装了就直接卸载,按照如下方式重新安装

pip install -e .

这应该会解决大部分问题

这个项目的逻辑真的挺难搞的!

版权声明:

本网仅为发布的内容提供存储空间,不对发表、转载的内容提供任何形式的保证。凡本网注明“来源:XXX网络”的作品,均转载自其它媒体,著作权归作者所有,商业转载请联系作者获得授权,非商业转载请注明出处。

我们尊重并感谢每一位作者,均已注明文章来源和作者。如因作品内容、版权或其它问题,请及时与我们联系,联系邮箱:809451989@qq.com,投稿邮箱:809451989@qq.com