说明:方案架构
按照本方案提供的配置完成部署后,会在阿里云上搭建一个如下图所示的运行环境。实际部署时,您可根据具体的资源规划调整部分配置,但最终的运行环境将与下图展示的架构相似。
一、创建百炼工作流应用
-
在阿里百炼大模型服务平台左侧导航栏中,单击我的应用。
-
单击新增应用,选择工作流应用,单击创建对话型工作流,进入工作流配置页面。
3.进入页面后,开始节点会预设两个参数,更改为difficulty
和scene
,对应描述分别更改为难度
和场景
。
4将左侧大模型节点拖入画布配置页面,将开始节点连接到大模型节点,并配置对应参数
如下图将他们连起来
配置参数
参数 | 配置对应参数 |
模型配置 | 通义千问-Max |
温度系数 | 默认值 |
最长回复长度 | 1024 |
开启搜索 | 关闭 |
System Prompt | 注意: 上述提示词中需要在[]中插入开始节点传入的两个变量 difficulty 和 scene。 在[]中输入 在[]中输入 在[]中输入 配置完成后: |
User Prompt | ${sys.query} |
上下文 | 默认开启 |
结果返回 | 开启 |
如图:
5.将大模型节点连接到结束节点,并配置对应参数。
参数 | 配置对应参数 |
输出模式 | 选择文本输出。 |
输入 | 输入 |
结果返回 | 关闭 |
6.点击右上角发布按钮。
二、创建实时音视频通信应用
1.实时音视频 ARTC 是智能体和用户之间建立起实时音频通信的基础,实现 AI 实时互动需要准备一个 ARTC 应用,参照以下步骤开通并创建 ARTC 应用。
开通视频直播:计费方式选择按使用流量计费,点击右下角立即开通。
2.在视频云直播控制台左侧导航栏单击直播+ > 实时音视频 > 应用管理。
3.单击创建应用。
4.填写自定义的实例名称,勾选服务协议后,点击立即购买。
提示开通成功后,刷新应用管理页面,即可查看新建的实时音视频应用。
三、创建AI智能体
(一)、开通智能媒体服务
智能媒体服务
(二)、创建实时工作流
登录AI实时互动-工作流管理,单击创建工作流模板。
-
配置基础信息:可以自定义工作流名称为
Workflow-English
。 - 编辑 STT 语音转文字节点。
在弹出的节点配置页面,修改语言模型为中英。
4.编辑 LLM 大语言模型节点,在弹出的节点配置页面,模型选择这一项选择对接阿里百炼平台,百炼类型选择应用中心。
打开百炼控制台,点击左侧导航栏我的应用,找到目标应用并复制应用 ID ,填写到 AppId 这一栏。
鼠标悬停于页面右上角的图标上,在下拉菜单中单击API-KEY。
在左侧导航栏,选择全部API-KEY或我的API-KEY,然后创建或查看 API-KEY
-
仅主账号拥有查看全部API-KEY的权限。主账号可以获取所有子账号的 API-KEY,子账号仅能获取自己的 API-KEY。
-
请不要将 API-KEY 以任何方式公开,避免因未经授权的使用造成安全风险或资金损失。
当调用子业务空间的应用时,需要传递业务空间标识,如果是默认业务空间可以不填写。
5.编辑 TTS 文字转语音节点,在弹出的节点配置页面修改音色,下拉选择龙橙,然后单击保存。
6.工作流节点全部修改完成后,点击保存。
(三)、创建智能体
登录 AI实时互动-智能体管理,单击创建智能体。
可以自定义智能体名称为 Agent-English
,并绑定之前创建的实时工作流 ID Workflow-English
和实时音视频 ARTC 应用,完成后点击提交。
然后点击提交。
四、部署应用
- 请点击前往部署打开我们提供的函数计算应用模板,参考下表进行参数配置,然后单击创建并部署默认环境。
语音通话智能体的AgentId
这修改完的
注意:tmd那个角色要给权限,标红的那个要给权限!!!要不然不能提交。
提交完之后进入详情
复制链接就可以对话了
五、完成及清理
清理资源
在本方案中,创建的云服务资源在体验完毕后,可以参考以下规则处理对应产品,避免继续产生费用:
-
删除函数计算应用:
登录函数计算控制台,在左侧导航栏,单击应用。找到目标应用,单击右侧操作列的删除应用。
-
删除智能体:
登录智能媒体服务控制台,在智能生产制作 > AI 实时互动 > 智能体管理页面,找到智能体并单击删除。
-
删除实时工作流模板:
登录智能媒体服务控制台,在智能生产制作 > AI 实时互动>工作流管理页面,找到工作流模板并单击删除。
-
删除 ARTC 应用:
登录视频直播控制台,在直播+ >实时音视频 > 应用管理页面,找到 ARTC 应用并单击删除。
-
删除百炼应用和数据:
-
登录百炼控制台,在我的应用中,找到应用并单击右下角更多,在下拉列表中点击删除应用。
-