先找到分组设置
控制台创建或编辑密钥时通常有分组选项;在线工具也可能允许选择分组。以同一把密钥和同一分组检查模型列表、价格与测试结果,避免在线测试和客户端配置不一致。
如何选择
- 从目标任务选择协议和模型,例如普通聊天或专用编程工具。
- 查看该模型在当前账户可用的分组,以及各分组说明与价格。
- 选择一个明确可用的分组,先验证最小请求。
- 如果出现 auto、备选顺序或跨分组重试选项,阅读页面规则后配置;不同部署可能没有这些选项。
auto 不代表所有能力自动兼容
auto 不是“自动选择最低价格”的同义词。它通常按管理员配置的分组顺序寻找可用渠道;进入某个分组后,再结合渠道优先级、权重和重试规则选择上游。顺序会随运营配置变化,回退后价格、响应速度或支持参数可能变化;协议不匹配也不能仅靠 auto 修复。
公开配置和模型会动态调整,不要把某一天看到的分组顺序当成永久规则。选择 auto 前先查看控制台当前说明和实时模型、价格页面。
常见渠道类型
| 渠道类型 | 典型特点 | 使用建议 |
|---|---|---|
| 官方 API Key | 厂商公开 API,能力边界相对清晰 | 对官方特性和可预测性要求高时优先评估 |
| Azure / Bedrock / Vertex | 云厂商托管的官方模型 | 注意区域、模型版本、字段和配额差异 |
| 第三方兼容渠道 | 通过兼容协议接入其他上游 | 逐项验证工具、多模态、流式和错误结构 |
| 非官方或逆向兼容渠道 | 成本可能较低,能力和稳定性可能变化 | 不要假设全部参数有效,不用于需要明确 SLA 的场景 |
| 国内模型渠道 | 国内云或模型平台提供的模型 | 核验具体上游、模型能力和适用合规要求 |
按场景选择分组
- 第一次测试: 选择模型明确支持的分组,创建小额度令牌,发送最小请求。
- 工具调用或编程代理: 优先选择页面明确标注并实测支持工具调用的渠道,不要只看模型名。
- 生产业务: 分别验证超时、限流、重试、流式中断、用量和错误响应;不要根据营销描述直接推断服务等级。
- 成本敏感: 以实时价格和实际用量为准,同时考虑重试、缓存与输出倍率。
模型、倍率、分组和路由都属于动态配置;本文用于理解概念,当前可用选项以控制台和实时模型价格页为准。
常见问题
提示没有可用渠道或模型不在分组中:核对完整模型 ID、密钥模型限制、分组权限和维护公告。不要不断生成新密钥绕过问题。
操练场能用但客户端失败:比较两边的模型、分组、协议和认证方式;操练场可能使用登录会话,客户端则依赖 API Key。
业务需要固定成本或能力时,先选明确分组,并验证切换后的功能和费用,再决定是否开启自动回退。