Modeller

Senast uppdaterad:

På denna sida

Välj modell via model-fältet i din request. Varje modell kör på dedikerad GPU-hårdvara i Sverige.

ModellTillverkareParametrarKontextfönsterVision
qwen3.6:35b-a3bAlibaba35B MoE262 144✓
qwen3.5:9bAlibaba9.7B262 144✓
gemma4:31bGoogle DeepMind31B262 144✓
bge-m3:latestBAAI568M8 192embedding
kb-whisper-largeKungliga biblioteket1.5B—audio (sv)

qwen3.5:35b-a3b accepteras som bakåtkompatibelt alias för qwen3.6:35b-a3b.

Alla chat-modeller stödjer streaming och tool calling, och alla läser bilder. Thinking-aliasen (qwen3.6:35b-a3b-thinking, qwen3.5:9b-thinking) beskrivs under Chat completions.

Modellerna är öppna vikter som vi hostar på egen hårdvara. KB-Whisper är den enda modellen vi kör som är tränad i Sverige.

Lista modeller programmatiskt

bash
curl https://api.staik.se/v1/models \
  -H "Authorization: Bearer sk-st-your-key"
json
{
  "data": [
    {
      "id": "qwen3.6:35b-a3b",
      "object": "model",
      "owned_by": "staik",
      "context_window": 262144,
      "capabilities": ["chat", "vision", "tools", "systemone"]
    }
  ]
}

Svaret inkluderar context_window och capabilities per modell — användbart för klienter som konfigurerar sig själva. systemone betyder att modellen kan användas med /v1/systemone.

Versionsneutrala alias

Vill du följa senaste version utan att hårdkoda ett versionsnummer? Ange ett alias som model:

AliasRoutas till
qwen-35b-latestGällande 35B-modell (i dag qwen3.6:35b-a3b)
qwen-9b-latestGällande 9B-modell (i dag qwen3.5:9b)

När vi uppgraderar en modell följer aliaset med automatiskt — din kod är densamma. Aliasen fungerar på både /v1/chat/completions och /v1/messages.

Thinking fungerar bara på /v1/chat/completions. Lägg till -thinking (qwen-35b-latest-thinking, qwen-9b-latest-thinking) för att slå på thinking. /v1/messages stödjer inte thinking: där räknas -thinking-namnen som okänd modell och besvaras av standardmodellen (qwen3.6:35b-a3b) utan thinking.

model-fältet i svaret skiljer sig mellan endpointsen:

  • /v1/chat/completions visar den faktiska modellen som svarade, t.ex. qwen3.6:35b-a3b.
  • /v1/messages visar oftast staiks interna modellnamn: qwen3.5:35b-a3b för qwen-35b-latest (samma modell som qwen3.6:35b-a3b) och qwen3.5:9b för qwen-9b-latest. Streamade anrop med tools visar i stället den faktiska modellen. Behöver du exakt version, läs actual_model i GET /v1/models.

GET /v1/models listar aliasen med alias: true och actual_model, som visar vilken version aliaset pekar på just nu (-thinking-varianterna listas inte):

json
{
  "id": "qwen-9b-latest",
  "object": "model",
  "owned_by": "staik",
  "alias": true,
  "actual_model": "qwen3.5:9b",
  "context_window": 262144,
  "capabilities": ["chat", "tools", "systemone"]
}

Vill du ha förutsägbart beteende över tid? Ange hela modellnamnet i stället, t.ex. qwen3.6:35b-a3b.

Egna GPU:er (BYO): ometrat körfält

Har din organisation kopplat upp egna GPU:er (Dina GPU:er) väljer du körfält på modellnamnet:

  • Prefixat — <org_slug>/<modell> kör ometrat mot er egen hårdvara (ingen dygns-/timgräns, inget tokenavdrag)
  • Bart modellnamn går till staiks delade pool och metras mot din plan
bash
# Ometrat: kör mot organisationens egen GPU (prefix = din org-slug)
curl https://api.staik.se/v1/chat/completions \
  -H "Authorization: Bearer $STAIK_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model": "acme/qwen3.8:27b", "messages": [{"role": "user", "content": "Hej"}]}'

Har er org ingen frisk egen nod för modellen returneras 503 — ingen tyst fallback till staik. GET /v1/models listar era prefixade modeller. Prefixet fungerar likadant på /v1/chat/completions och /v1/messages.