按场景设置 timeout
推理模型会先长时间思考再输出,一次请求可能持续几分钟,例如:
gpt-6-sol、gpt-5.6-solgpt-5.4-pro、o3-pro(gpt-5.5-pro已于 2026 年 10 月下线)gemini-3.1-pro-preview
长输出优先用流式
非流式请求要等整段内容生成完才一次性返回,你的读超时要和整段生成时间竞速。改用流式(stream=True)后,内容边生成边返回:
- 首个数据很快到达,之后持续有事件返回;
- 读超时只需覆盖两次事件之间的间隔,通常设 90–120 秒;
- 总耗时不会变短,但不再因为等整段结果而断开。
关掉长请求的自动重试
OpenAI 官方 Python SDK 默认在超时等错误后自动重试 2 次。图片和推理请求建议把max_retries 设为 0,由业务代码决定是否重试:
- Python
- Node.js
- cURL
已经调大 timeout 仍然超时
按顺序检查:1
确认新的 timeout 真的生效
有些框架在 HTTP 客户端外面还包了一层超时。打印实际生效的配置,确认改的是被使用的那个参数。
2
检查链路上的每一层
任何一层的超时短于生成时间,都会先断开连接。逐一放宽:
- 自建反向代理,例如 Nginx 的
proxy_read_timeout默认 60 秒; - 云负载均衡的空闲连接超时;
- Serverless 函数的最长执行时间;
- 任务队列 worker 的单任务超时。
3
区分超时和限流
连接中断、读取超时是等待时间不够;
429 是速率或容量限制,与耗时无关。429 先做有限次数的退避重试,长期出现时联系支持团队。4
用调用日志确认实际耗时
在调用日志查看这次请求的用时和是否扣费,按实际耗时再留出余量。
常见问题
超时断开的请求还会扣费吗?
会,只要上游已经完成生成。断开发生在你的客户端,服务端和上游不会因此停止;上游返回非 200(如429、503)的请求不扣费。实际扣费以调用日志为准,退款与余额调整按用户协议处理。
断开后能凭 ID 取回图片吗?
不能。图片接口是同步的,老张API默认不保存生成结果,断开后这次结果就拿不到了。需要异步体验时,在自己的后端包一层任务队列,做法见图片生成 API 有异步任务 ID 吗。调用日志显示已出图,客户端却收不到?
调用日志里的用时只算到图片生成完成,不包含把图片传回你服务器的时间。2K、4K 图片以 Base64 返回时,一个响应常有几 MB 到 10 MB 左右;你的服务器到 API 域名的线路慢时,下载可能要几分钟,甚至中途被断开。 按服务器所在位置换 Base URL,三个域名的 API Key 与请求路径相同:- 服务器在欧美、需要直连:用
api-vip.laozhang.ai。 - 服务器不在欧美:用默认的
api.laozhang.ai,不要用api-vip.laozhang.ai。 api.laozhang.ai访问慢或无法访问:改用api2.laozhang.ai。
生图时浏览器或客户端提示 Failed to fetch 是什么原因?
等了一段固定时间(常见是 60 秒)才出现,多半不是接口报错,而是你用的网页工具、客户端或它前面的代理先断开了连接。图片生成常常超过 60 秒,断开时服务端仍在生成,完成后照常扣费,但结果已经送不回来。不同浏览器的原文不同:
调大超时之前断开的请求,结果无法再取回,见上一条。