您的位置:首页 > 游戏 > 游戏 > Dify中接入GPT-4o mini模型

Dify中接入GPT-4o mini模型

2024/9/24 23:24:50 来源:https://blog.csdn.net/shengshengwang/article/details/140580638  浏览:    关键词:Dify中接入GPT-4o mini模型

GPT-4o mini模型自己承认是基于GPT-3.5架构的模型,有图有真相:

一.GPT-4o mini官网简介

GPT-4o mini(“o"代表"omni”)是小型型号类别中最先进的型号,也是OpenAI迄今为止最便宜的型号。它是多模态的(接受文本或图像输入并输出文本),具有比 gpt-3.5-turbo 更高的智能,但速度同样快。它旨在用于较小的任务,包括视觉任务。建议在之前使用 gpt-3.5-turbo 的地方选择 gpt-4o-mini ,因为此模型功能更强大且更便宜。

模型描述上下文窗口训练数据
gpt-4o-mini新款 GPT-4o-mini经济实惠且智能的小型型号,适用于快速、轻量级的任务。 GPT-4o mini 比 GPT-3.5 Turbo 更便宜、功能更强大。当前指向 gpt-4o-mini-2024-07-18 。128,000 tokensUp to Oct 2023
gpt-4o-mini-2024-07-18gpt-4o-mini 当前指向此版本。128,000 tokensUp to Oct 2023

二.Dify中接入gpt-4o-mini

1.openrouter下的gpt-4o-mini配置

在Dify 0.6.14版本中没有包含gpt-4o-mini,因为当时还没发布。

在Dify官方仓库发现已经有人提交了,不过看清楚是提交给openrouter供应商的。

2.openai下的gpt-4o-mini配置

(1)_position.yaml文件

接下来修改下提交给openai供应商。主要是修改dify\api\core\model_runtime\model_providers\openai\llm\_position.yaml文件增加gpt-4o-mini如下:

(2)gpt-4o-mini.yaml文件

然后在dify\api\core\model_runtime\model_providers\openai\llm目录增加gpt-4o-mini.yaml文件即可:

具体就不详细解释了,仿照gpt-4o.yaml写一个,主要是修改模型的名字,以及价格。

model: gpt-4o-mini
label:zh_Hans: gpt-4o-minien_US: gpt-4o-mini
model_type: llm
features:- multi-tool-call- agent-thought- stream-tool-call- vision
model_properties:mode: chatcontext_size: 128000
parameter_rules:- name: temperatureuse_template: temperature- name: top_puse_template: top_p- name: presence_penaltyuse_template: presence_penalty- name: frequency_penaltyuse_template: frequency_penalty- name: max_tokensuse_template: max_tokensdefault: 512min: 1max: 4096- name: response_formatlabel:zh_Hans: 回复格式en_US: response_formattype: stringhelp:zh_Hans: 指定模型必须输出的格式en_US: specifying the format that the model must outputrequired: falseoptions:- text- json_object
pricing:input: "0.15"output: "0.60"unit: "0.000001"currency: USD

3.模型供应商查看和对话测试

参考文献

[1] gpt-4o-mini.yaml:https://github.com/sinomoe/dify/commit/9ba76915187cef8914c0bd5f6d920c82456ffcce

[2] https://platform.openai.com/docs/models/gpt-4o-mini

版权声明:

本网仅为发布的内容提供存储空间,不对发表、转载的内容提供任何形式的保证。凡本网注明“来源:XXX网络”的作品,均转载自其它媒体,著作权归作者所有,商业转载请联系作者获得授权,非商业转载请注明出处。

我们尊重并感谢每一位作者,均已注明文章来源和作者。如因作品内容、版权或其它问题,请及时与我们联系,联系邮箱:809451989@qq.com,投稿邮箱:809451989@qq.com