Потоковые ответы

Чтобы получать ответ по частям, передайте "stream": true. Шлюз отдаёт события SSE в формате выбранного протокола.

curl -N https://aiap1.ru/v1/chat/completions \
  -H "Authorization: Bearer $AIAP1_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model": "deepseek-v4-flash", "stream": true, "messages": [{"role": "user", "content": "Hello"}]}'

Формат OpenAI

Каждое событие начинается с data: и содержит фрагмент chat.completion.chunk. Поток заканчивается строкой data: [DONE]. Чтобы получить токены в последнем фрагменте, передайте "stream_options": {"include_usage": true}.

Формат Anthropic

События идут в порядке message_start, content_block_delta, message_delta, message_stop, как у оригинального API.

Если поток оборвался

Если ответ модели прервался, шлюз присылает событие с ошибкой STREAM_INTERRUPTED. Оплачивается только полученная часть, расход в журнале помечается как частичная оценка.

Если вы сами закрыли соединение, запрос записывается как отменённый, оплачивается полученная часть.