选择协议
- 新项目,或使用 OpenAI SDK 等 OpenAI 格式客户端:用 OpenAI 兼容协议,见 OpenAI 协议:Chat Completions。
- 使用 Anthropic SDK、Claude Code 等 Messages 格式客户端:用 Anthropic Messages,见 Claude 协议。
- 使用 Google Gen AI SDK,或需要 Gemini 原生字段:用 Gemini 原生协议,见 Gemini 协议。
- OpenAI SDK 的 Base URL 设为
https://api.laozhang.ai/v1; - Anthropic SDK 和 Google Gen AI SDK 设为域名根
https://api.laozhang.ai,由 SDK 自己拼接路径。
- Claude 模型,2026 年 10 月 18 日重新上架,使用限制见 Claude 协议
glm-5.2(default与claude_code分组)deepseek-v4-prodeepseek-v4-flash
同一个模型标注了两种协议时(例如
gemini-3.8-flash 同时支持 Chat Completions 和 Gemini 原生),两种写法都可以调用,但同一个请求里不能混用两种字段。
常用文本模型
下表价格来自 2026 年 10 月 18 日公开价格配置,是default 分组的标价,单位为美元每 1M tokens。缓存读价格、其他模型和其他令牌分组见模型与价格总表。
- GPT-6、GPT-5.6、
gpt-5.4与claude-haiku-5-5对长输入请求按更高一档计价,分档界限与价格见总表的阶梯计价。 - GPT-6 三款模型怎么选,以及 OpenAI 对它们在 Chat Completions 中的参数和工具调用规则,见 GPT-6 上线公告。
- 表中 OpenAI 模型也可以用 Responses 端点
POST /v1/responses调用,o3-pro系列只支持 Responses。 - GPT-6 Astra 和 GPT-6.1 Sol 的工具调用需要 Responses,GPT-6.1 Sol 的其他参数差异见 GPT-6.1 Sol 上线公告。调用方法见 OpenAI 模型接入。
- Gemini 4 Argon 的思考级别和首发价说明见 Gemini 4 Argon 上线公告。
- 需要让模型分析图片时,见图片理解 API。
发送第一个请求
在令牌管理创建 API Key:计费模式选择按量优先(推荐)或按量计费,并确认它的令牌分组可以调用所选模型。然后在终端设置环境变量:gpt-5.4-mini 通过 OpenAI 兼容协议发送一条消息。运行 SDK 示例前先安装依赖:
- Python:执行
python -m pip install openai。 - Node.js:执行
npm install openai,把代码保存为chat.mjs,再用node chat.mjs运行。
- cURL
- Python
- Node.js
model,并确认该模型的「兼容端点」包含「OpenAI 兼容」。示例关闭了 SDK 自动重试,由应用决定失败后是否重发。
流式输出
在请求体中加入"stream": true,回复会以 SSE(server-sent events)事件流边生成边返回。三种协议的流式读取方式不同:
- OpenAI 兼容:新增文本在
choices[0].delta.content,按到达顺序拼接;有的数据块没有choices或content,跳过即可;流以data: [DONE]结束。cURL 与 Python 完整示例及原始事件格式见 Chat Completions 流式输出。 - Anthropic Messages:文本在
content_block_delta事件的delta.text里,收到message_stop才表示回复结束,见 Claude 协议流式输出。 - Gemini 原生:把路径中的
generateContent换成streamGenerateContent并加上?alt=sse,每个事件都是带candidates的部分结果,见 Gemini 协议流式输出。 - 连接在结束标志之前断开时,已收到的文本不完整,按失败处理或重新请求。用 cURL 调试时加
-N,关闭输出缓冲。
常见错误
- 404,请求地址里出现
/v1/v1:SDK 的 Base URL 与它拼接的路径重复了。OpenAI SDK 用https://api.laozhang.ai/v1;Anthropic SDK 和 Google Gen AI SDK 用https://api.laozhang.ai。 - 模型不可用、403 或 404:检查模型 ID 是否从总表完整复制、API Key 的令牌分组是否包含该模型,以及模型是否支持当前协议。例如
o3-pro只能用 Responses 调用,gpt-6-astra的工具调用需要 Responses,GPT 模型不能走 Gemini 原生接口。排查步骤见模型可用性说明。 - 400:Anthropic Messages 请求缺少
max_tokens是常见原因。其他情况先删掉新增的可选参数,回到最小请求,再按错误正文调整。 - 401:API Key 错误、认证头格式不对,或环境变量没有在当前终端生效。
- 回复为空:
- Chat Completions:先看
message.tool_calls和finish_reason; - Anthropic Messages:按
type读取content[],不要只取content[0]; - Gemini:检查
finishReason和promptFeedback。
- Chat Completions:先看
- 回复被截断:以下取值都表示达到了输出上限。调大该模型支持的输出上限,或缩短输入。
- Chat Completions:
finish_reason为length; - Anthropic Messages:
stop_reason为max_tokens; - Gemini:
finishReason为MAX_TOKENS。
- Chat Completions:
- 429:阅读错误正文,区分速率限制、并发限制和余额不足;有余额仍失败时见为什么还有余额但调用失败。
上线前检查
- 在配置中固定模型 ID 和协议,更换模型时当作一次变更单独测试。
- 用自己业务的样本比较两三个候选模型的回答质量、延迟和 token 用量,比较方法见选择模型。
- 测试普通请求、流式请求和常见错误的处理;SDK 自动重试与业务层重试只保留一层。
- 在调用日志核对每个请求的模型、输入与输出 tokens 和扣费。
相关文档
- OpenAI 协议:Chat Completions
- OpenAI 模型接入:端点与 SDK 配置
- Claude 协议:Anthropic Messages
- Gemini 协议:generateContent
- API 开发文档:密钥、Base URL、Responses 与图片接口
- 模型与价格总表
- 上游文档:OpenAI 文本生成指南、Anthropic Messages API、Gemini 文本生成