干啥用?怎么用啊?
先甭管,上链接!点这 领2000W token(14元) https://cloud.siliconflow.cn/i/xJvN9Ecu
手机就能注册,多拿多得!
1.啥是硅基流动
硅基流动 是一家专注于大规模AI计算的技术公司,由清华大学高性能计算研究所孙广宇教授团队创立。公司核心团队来自清华大学、MIT等顶尖高校,在高性能计算和AI系统方面有深厚的技术积累。
硅基流动的主要产品和服务包括:
- SiliconLLM: 高性能LLM推理引擎,支持各种主流大语言模型的高效部署。
- SiliconCloud: 一站式AI云计算平台,提供LLM训练推理等服务。
- OneDiff: 开源的AI编译框架,可自动优化AI模型性能。
公司的核心优势在于深厚的系统优化技术,能够大幅提升AI模型的计算效率,帮助企业降低AI部署成本。目标市场主要面向有大规模AI计算需求的企业客户。
一句话介绍:是集成多家大模型的管理平台,是一个支持多种大模型的 api接口管理 & 分发系统,类似于 One-API
2.都有哪些大模型
模型广场 https://cloud.siliconflow.cn/models
热门模型:Llama3、智谱glm-4、通义千问-7b、Deepseek 都有,详见模型广场介绍。
3.说说咋用啊
3.1 新建API秘钥
得到你的Api-key
: sk-pkyanxxxxxxwecje
3.2 选模型
我选 通义千问2.5-7b
3.2.1 在线体验
就能直接对话了哈
3.2.2 API文档
要把大模型跟你的代码结合,必须用API了哈。
比如 对话对话请求
、图片生成请求
、语音转文本请求
等
3.3 写代码
以文本对话请求
为例
- 直接复制,改
content
中的内容即可
- 设置内容,生成代码,再复制
设置好以上内容(其他参数按需配置,如temperature等),下面自动生成代码
复制到你的本地代码中
import requestsurl = "https://api.siliconflow.cn/v1/chat/completions"payload = {"model": "Pro/THUDM/glm-4-9b-chat","messages": [{"role": "user", # 你扮演的角色是用户"content": "你好" # 你跟大模型对话的内容}]
}
headers = {"Authorization": "Bearer sk-svxxxxxxxxxzpeg", # 替换为你的Api-key"Content-Type": "application/json"
}response = requests.request("POST", url, json=payload, headers=headers)
print(response.text)
注意:Authorization 后面的 Bearer 不要删!!!Bearer 后面才是你的Api-key
输出内容如下
{“id”:“0192b8705d534238200e68ee63d7c1d7”,“object”:“chat.completion”,“created”:1729671224,“model”:“Pro/THUDM/glm-4-9b-chat”,“choices”:[{“index”:0,“message”:{“role”:“assistant”,“content”:“\n你好👋!有什么可以帮助你的吗?”},“finish_reason”:“stop”}],“usage”:{“prompt_tokens”:6,“completion_tokens”:11,“total_tokens”:17},“system_fingerprint”:“”}
我只想看大模型返回的内容呢?
把大模型返回的response的内容加工一下
import requests
import json
url = "https://api.siliconflow.cn/v1/chat/completions"payload = {"model": "Pro/THUDM/glm-4-9b-chat","messages": [{"role": "user","content": "你好"}]
}
headers = {"Authorization": "Bearer sk-svxxxxxxxxxzpeg","Content-Type": "application/json"
}response = requests.request("POST", url, json=payload, headers=headers)# 假设 response 是你从API获取的响应对象
response_text = response.text# 将响应文本解析为JSON对象
response_json = json.loads(response_text)# 获取 content 字段的值
content = response_json['choices'][0]['message']['content']# 输出 content
print(content)
得到如下
以上就是全部内容啦!你学废了吗?
通过我的链接注册的,发我截图,再送一个500万token的Api-key,先到先得!