Открыть в интерактивной справке · markdown для агентов: https://neuraldeep.ru/docs/chat.md

Текст · Chat completion

OpenAI-совместимый /v1/chat/completions. Поддерживает streaming, tools, reasoning (gpt-oss внутри reasoning-теги прокидывает). Ходы одного диалога держатся на одном воркере сами.

curl https://api.neuraldeep.ru/v1/chat/completions \
  -H "Authorization: Bearer $YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gpt-oss-120b",
    "messages": [
      {"role":"system","content":"You are helpful."},
      {"role":"user","content":"Привет"}
    ],
    "max_tokens": 500,
    "temperature": 0.2
  }'

from openai import OpenAI
client = OpenAI(api_key="$YOUR_KEY", base_url="https://api.neuraldeep.ru/v1")
r = client.chat.completions.create(
    model="gpt-oss-120b",
    messages=[{"role":"user","content":"Привет"}],
    max_tokens=500,
)
print(r.choices[0].message.content)

На наших qwen-лейнах ходы одного диалога (тот же ключ и то же начало переписки) сами попадают на один воркер, поэтому префикс берётся из кеша и multi-turn быстрее. Поле user на маршрут не влияет. Если у тебя несколько параллельных копий одного диалога и их нужно развести по воркерам, передай свой prompt_cache_key.

Reasoning по моделям. По умолчанию reasoning включён, reasoning_content приходит отдельным полем.

gpt-oss-120b: глубину задаёт reasoning_effort — low / medium / high.
qwen3.8-27b: глубину задаёт reasoning_effort — low / medium / xhigh (по умолчанию low). Значения high и minimal модель не знает, такое значение снимается и остаётся low.
qwen3.6-35b-a3b: уровней усилия нет, reasoning_effort ни на что не влияет.
Выключить размышление на qwen можно только моделью с суффиксом -noreason (qwen3.8-27b-noreason, qwen3.6-35b-a3b-noreason). enable_thinking: false на базовом имени не действует: гейт его снимает, модель всё равно думает.
thinking_token_budget на qwen не работает ни в chat_template_kwargs, ни на верхнем уровне.

Текст · Chat completion

Разделы справки (markdown для агентов)