跳转到主要内容
老张API用同一个 API Key 提供三种文本生成协议:OpenAI 兼容、Anthropic Messages 和 Gemini 原生。新项目直接用 OpenAI 兼容的 Chat Completions,支持它的文本模型最多。

选择协议

  • 新项目,或使用 OpenAI SDK 等 OpenAI 格式客户端:用 OpenAI 兼容协议,见 OpenAI 协议:Chat Completions。
  • 使用 Anthropic SDK、Claude Code 等 Messages 格式客户端:用 Anthropic Messages,见 Claude 协议。
  • 使用 Google Gen AI SDK,或需要 Gemini 原生字段:用 Gemini 原生协议,见 Gemini 协议。
三种协议的请求地址:
使用 SDK 时:
  • OpenAI SDK 的 Base URL 设为 https://api.laozhang.ai/v1;
  • Anthropic SDK 和 Google Gen AI SDK 设为域名根 https://api.laozhang.ai,由 SDK 自己拼接路径。
Anthropic Messages 协议可用于价格配置中标注了该端点的模型,例如:
  • Claude 模型,2026 年 10 月 18 日重新上架,使用限制见 Claude 协议
  • glm-5.2(default 与 claude_code 分组)
  • deepseek-v4-pro
  • deepseek-v4-flash
三种协议的请求体和响应结构不同,改用另一种协议时,请求代码和解析代码要一起改: 同一个模型标注了两种协议时(例如 gemini-3.8-flash 同时支持 Chat Completions 和 Gemini 原生),两种写法都可以调用,但同一个请求里不能混用两种字段。

常用文本模型

下表价格来自 2026 年 10 月 18 日公开价格配置,是 default 分组的标价,单位为美元每 1M tokens。缓存读价格、其他模型和其他令牌分组见模型与价格总表。
  • GPT-6、GPT-5.6、gpt-5.4 与 claude-haiku-5-5 对长输入请求按更高一档计价,分档界限与价格见总表的阶梯计价。
  • GPT-6 三款模型怎么选,以及 OpenAI 对它们在 Chat Completions 中的参数和工具调用规则,见 GPT-6 上线公告。
  • 表中 OpenAI 模型也可以用 Responses 端点 POST /v1/responses 调用,o3-pro 系列只支持 Responses。
  • GPT-6 Astra 和 GPT-6.1 Sol 的工具调用需要 Responses,GPT-6.1 Sol 的其他参数差异见 GPT-6.1 Sol 上线公告。调用方法见 OpenAI 模型接入。
  • Gemini 4 Argon 的思考级别和首发价说明见 Gemini 4 Argon 上线公告。
  • 需要让模型分析图片时,见图片理解 API。

发送第一个请求

在令牌管理创建 API Key:计费模式选择按量优先(推荐)或按量计费,并确认它的令牌分组可以调用所选模型。然后在终端设置环境变量:
下面用 gpt-5.4-mini 通过 OpenAI 兼容协议发送一条消息。运行 SDK 示例前先安装依赖:
  • Python:执行 python -m pip install openai。
  • Node.js:执行 npm install openai,把代码保存为 chat.mjs,再用 node chat.mjs 运行。
正常情况下会输出「连接成功」。换用其他模型时只改 model,并确认该模型的「兼容端点」包含「OpenAI 兼容」。示例关闭了 SDK 自动重试,由应用决定失败后是否重发。

流式输出

在请求体中加入 "stream": true,回复会以 SSE(server-sent events)事件流边生成边返回。三种协议的流式读取方式不同:
  • OpenAI 兼容:新增文本在 choices[0].delta.content,按到达顺序拼接;有的数据块没有 choices 或 content,跳过即可;流以 data: [DONE] 结束。cURL 与 Python 完整示例及原始事件格式见 Chat Completions 流式输出。
  • Anthropic Messages:文本在 content_block_delta 事件的 delta.text 里,收到 message_stop 才表示回复结束,见 Claude 协议流式输出。
  • Gemini 原生:把路径中的 generateContent 换成 streamGenerateContent 并加上 ?alt=sse,每个事件都是带 candidates 的部分结果,见 Gemini 协议流式输出。
  • 连接在结束标志之前断开时,已收到的文本不完整,按失败处理或重新请求。用 cURL 调试时加 -N,关闭输出缓冲。

常见错误

  • 404,请求地址里出现 /v1/v1:SDK 的 Base URL 与它拼接的路径重复了。OpenAI SDK 用 https://api.laozhang.ai/v1;Anthropic SDK 和 Google Gen AI SDK 用 https://api.laozhang.ai。
  • 模型不可用、403 或 404:检查模型 ID 是否从总表完整复制、API Key 的令牌分组是否包含该模型,以及模型是否支持当前协议。例如 o3-pro 只能用 Responses 调用,gpt-6-astra 的工具调用需要 Responses,GPT 模型不能走 Gemini 原生接口。排查步骤见模型可用性说明。
  • 400:Anthropic Messages 请求缺少 max_tokens 是常见原因。其他情况先删掉新增的可选参数,回到最小请求,再按错误正文调整。
  • 401:API Key 错误、认证头格式不对,或环境变量没有在当前终端生效。
  • 回复为空:
    • Chat Completions:先看 message.tool_calls 和 finish_reason;
    • Anthropic Messages:按 type 读取 content[],不要只取 content[0];
    • Gemini:检查 finishReason 和 promptFeedback。
  • 回复被截断:以下取值都表示达到了输出上限。调大该模型支持的输出上限,或缩短输入。
    • Chat Completions:finish_reason 为 length;
    • Anthropic Messages:stop_reason 为 max_tokens;
    • Gemini:finishReason 为 MAX_TOKENS。
  • 429:阅读错误正文,区分速率限制、并发限制和余额不足;有余额仍失败时见为什么还有余额但调用失败。

上线前检查

  1. 在配置中固定模型 ID 和协议,更换模型时当作一次变更单独测试。
  2. 用自己业务的样本比较两三个候选模型的回答质量、延迟和 token 用量,比较方法见选择模型。
  3. 测试普通请求、流式请求和常见错误的处理;SDK 自动重试与业务层重试只保留一层。
  4. 在调用日志核对每个请求的模型、输入与输出 tokens 和扣费。

相关文档