OpenAI Chat Completions API: запросы и потоковая передача

POST https://api.laozhang.ai/v1/chat/completions

​

Отправка запроса

export LAOZHANG_API_KEY="YOUR_LAOZHANG_API_KEY"

curl --fail-with-body --max-time 120 \
  "https://api.laozhang.ai/v1/chat/completions" \
  -H "Authorization: Bearer $LAOZHANG_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gpt-5.4-mini",
    "messages": [
      {"role": "user", "content": "Ответь только одним словом: connected"}
    ]
  }'

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["LAOZHANG_API_KEY"],
    base_url="https://api.laozhang.ai/v1",
    timeout=120.0,
    max_retries=0,
)
response = client.chat.completions.create(
    model="gpt-5.4-mini",
    messages=[{"role": "user", "content": "Ответь только одним словом: connected"}],
)
print(response.choices[0].message.content)

​

Выбор модели

• В Endpoints есть OpenAI-compatible. Модели, у которых указан только Responses, например серия o3-pro, вызываются через /v1/responses; примеры есть в разделе про Responses API в руководстве по подключению.
• В Token groups есть группа вашего API-ключа.
• Цены Input, Output и Cache read за 1M токенов подходят вашей нагрузке.

• gpt-5.4-mini и gpt-5.4
• gemini-3.8-flash, gemini-3.6-flash и gemini-3.5-flash-lite

​

Поля запроса

​

Сообщения и история диалога

[
  {"role": "user", "content": "Мой проект называется Cedar."},
  {"role": "assistant", "content": "Чем помочь с Cedar?"},
  {"role": "user", "content": "Предложи для него короткий слоган."}
]

​

Чтение ответа

{
  "choices": [
    {
      "index": 0,
      "message": {"role": "assistant", "content": "connected"},
      "finish_reason": "stop"
    }
  ]
}

​

Потоковый ответ

• В каждой строке data: лежит объект chat.completion.chunk.
• Новый текст находится в choices[0].delta.content.
• Поток заканчивается строкой data: [DONE].

curl --fail-with-body -N --max-time 300 \
  "https://api.laozhang.ai/v1/chat/completions" \
  -H "Authorization: Bearer $LAOZHANG_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gpt-5.4-mini",
    "stream": true,
    "messages": [
      {"role": "user", "content": "Дай три коротких совета по именованию переменных."}
    ]
  }'

import os
from openai import OpenAI

client = OpenAI(
    api_key=os.environ["LAOZHANG_API_KEY"],
    base_url="https://api.laozhang.ai/v1",
    timeout=300.0,
    max_retries=0,
)
stream = client.chat.completions.create(
    model="gpt-5.4-mini",
    messages=[{"role": "user", "content": "Дай три коротких совета по именованию переменных."}],
    stream=True,
)
for chunk in stream:
    if not chunk.choices:
        continue
    text = chunk.choices[0].delta.content
    if text:
        print(text, end="", flush=True)
print()

data: {"object":"chat.completion.chunk","choices":[{"index":0,"delta":{"role":"assistant","content":""},"finish_reason":null}]}

data: {"object":"chat.completion.chunk","choices":[{"index":0,"delta":{"content":"1. Name variables"},"finish_reason":null}]}

data: {"object":"chat.completion.chunk","choices":[{"index":0,"delta":{},"finish_reason":"stop"}]}

data: [DONE]

• Добавляйте каждый delta.content по порядку, чтобы собрать ответ целиком.
• Первый фрагмент может содержать только роль, а в некоторых фрагментах, например в последнем фрагменте с usage, массив choices бывает пустым, поэтому проверяйте его перед чтением.
• Последний фрагмент с содержимым задаёт finish_reason; затем data: [DONE] закрывает поток, и цикл в Python SDK на этом завершается.
• Если соединение оборвалось до [DONE], считайте ответ неполным.

​

Обработка ошибок

​

Связанные материалы

• API генерации текста: протоколы и модели
• Использование моделей OpenAI в LaoZhang API
• Руководство по подключению
• Модели и цены
• API понимания изображений
• Models API
• Доступность моделей и права доступа