Responses (OpenAI)

POST https://api.staik.se/v1/responses

Endpoint som är kompatibel med OpenAI:s Responses API. OpenAI-SDK:ernas responses.create, Codex CLI och andra klienter som pratar Responses-protokollet fungerar direkt. Autentisera med Authorization: Bearer (samma nyckel).

Anropet körs på samma väg som chat completions: samma modeller, kvoter, köer, failover och debitering. Användningen bokförs med endpointen responses.

from openai import OpenAI

client = OpenAI(api_key="sk-st-your-key", base_url="https://api.staik.se/v1")

response = client.responses.create(
    model="qwen3.6:35b-a3b",
    instructions="Svara kort och på svenska.",
    input="Förklara hur en transformer fungerar.",
)
print(response.output_text)

Tillståndslöst: skicka hela historiken

staik lagrar aldrig svar. Varje anrop måste innehålla hela konversationen i input, inklusive tidigare modellsvar, verktygsanrop och verktygsresultat. store ignoreras och svaret har alltid "store": false.

Funktionsverktyg

Verktyg anges i Responses-format (type: "function" med name och parameters direkt på verktyget). Modellen svarar med function_call-items, du kör verktyget och skickar tillbaka resultatet som function_call_output med samma call_id:

import json

tools = [{
    "type": "function",
    "name": "get_weather",
    "description": "Hämta aktuellt väder för en stad.",
    "parameters": {
        "type": "object",
        "properties": {"city": {"type": "string"}},
        "required": ["city"],
    },
}]

history = [{"role": "user", "content": "Hur är vädret i Göteborg?"}]
response = client.responses.create(model="qwen3.6:35b-a3b", input=history, tools=tools)

# Tillståndslöst: lägg modellens output i historiken innan verktygssvaren.
history += response.output
for item in response.output:
    if item.type == "function_call":
        args = json.loads(item.arguments)
        result = {"city": args["city"], "temp_c": 11}  # ditt eget verktyg
        history.append({
            "type": "function_call_output",
            "call_id": item.call_id,
            "output": json.dumps(result),
        })

response = client.responses.create(model="qwen3.6:35b-a3b", input=history, tools=tools)
print(response.output_text)

Det här stöds:

• function-verktyg, även flera parallella anrop i samma tur (parallel_tool_calls)
• namespace-verktyg: grupperade funktioner. Svaret har både name och namespace
• custom-verktyg (fritext-indata): svaret blir ett custom_tool_call med input som sträng, och resultatet skickas som custom_tool_call_output
• tool_choice: auto, none, required eller en specifik funktion. Okända värden tolkas som auto
• Bilder i verktygssvar: input_image med data-URL i output

Mer om hur modellerna hanterar verktyg finns i Tool calling.

Streaming

Sätt stream: true så kommer svaret som server-sent events i Responses-format:

stream = client.responses.create(
    model="qwen3.6:35b-a3b",
    input="Skriv en haiku om Stockholm.",
    stream=True,
)
for event in stream:
    if event.type == "response.output_text.delta":
        print(event.delta, end="", flush=True)

Varje event har ett stigande sequence_number.

Övriga parametrar

reasoning-items som du skickar tillbaka i input tas bort: tidigare resonemang skickas aldrig till modellen igen. Bilder skickas som input_image med en data-URL, med samma modeller och regler som chat completions.

Usage

usage i response.completed (och i icke-strömmade svar) har Responses-formatet: input_tokens, input_tokens_details.cached_tokens (prompt-cache-träffar), output_tokens, output_tokens_details.reasoning_tokens och total_tokens. Debiteringen är densamma som för chat completions.

Fel

Fel returneras i OpenAI-format: {"error": {"message", "type", "param", "code"}}.

Uppstår felet mitt i en ström kommer det som response.failed med code context_length_exceeded, invalid_prompt eller server_error (tillfälligt, försök igen). Se Fel för hela listan.