功能概述
文本生成(Chat Completions)是老张API最核心的能力之一,支持调用 200+ 热门 AI 大模型进行智能对话和文本生成。通过统一的 OpenAI 兼容接口,你可以轻松实现:- 智能对话:构建聊天机器人、虚拟助手
- 内容创作:文章写作、创意生成、文案润色
- 代码辅助:代码生成、调试、重构建议
- 知识问答:回答问题、知识检索、信息提取
- 角色扮演:定制化 AI 角色、场景模拟
支持 GPT-5、Claude 4、Gemini 2.5、DeepSeek、Qwen 等 200+ 主流大模型,一个 API Key 调用所有模型。
快速开始
基础对话示例
使用 Chat Completions API 进行简单的单轮对话:多轮对话示例
通过messages 数组维护对话历史,实现上下文连贯的多轮对话:
核心参数详解
model(必填)
指定要使用的模型名称,详见 模型信息 页面。messages(必填)
对话消息数组,每条消息包含role 和 content 字段:
system
系统提示,定义 AI 的行为和角色
user
用户消息,代表用户的输入
assistant
助手消息,代表 AI 的回复
temperature(可选)
控制输出的随机性,范围0.0 ~ 2.0,默认 1.0:
max_tokens(可选)
限制生成的最大 token 数量,用于控制成本和响应长度:stream(可选)
启用流式输出,逐 token 返回结果,提升用户体验:高级用法
系统提示(System Prompt)
通过system 角色定义 AI 的行为、角色、知识范围和回复风格:
角色扮演
创建具有特定性格和专业领域的 AI 助手:上下文管理
对于长对话,需要合理管理上下文长度,避免超过模型的 token 限制:推荐模型
最佳实践
1. 优化提示词
2. 错误处理
3. 控制成本
常见问题
如何计算 token 数量?
如何计算 token 数量?
使用
tiktoken 库估算:为什么输出被截断了?
为什么输出被截断了?
可能原因:
- 达到了
max_tokens限制 - 模型的上下文窗口不足
- 触发了内容安全策略
finish_reason 字段:如何实现对话记忆?
如何实现对话记忆?
在应用层维护对话历史数组,每次请求时传入完整的 messages。
相关文档
模型信息
查看支持的所有模型及定价
文本嵌入
将文本转换为向量表示
API 参考
Chat Completions API 详细参考
OpenAI SDK
使用 OpenAI SDK 快速接入