Embeddings

POST https://api.staik.se/v1/embeddings

OpenAI-kompatibel embedding-endpoint med bge-m3 — flerspråkig (utmärkt på svenska), 1024-dimensionella vektorer, 8 192 tokens kontext. Bygger du RAG eller semantisk sökning är det här startpunkten.

from openai import OpenAI

client = OpenAI(api_key="sk-st-your-key", base_url="https://api.staik.se/v1")

response = client.embeddings.create(
    model="bge-m3:latest",
    input=["Första dokumentet att indexera", "Andra dokumentet"],
)
vectors = [d.embedding for d in response.data]  # 1024 dimensioner per vektor

input tar en sträng eller en lista av strängar. Svaret följer OpenAI-formatet: data[].embedding (1024 flyttal), data[].index och usage.total_tokens.

Med pgvector

Konfigurera kolumnen för 1024 dimensioner:

CREATE EXTENSION IF NOT EXISTS vector;

CREATE TABLE documents (
  id bigserial PRIMARY KEY,
  content text,
  embedding vector(1024)
);

-- Närmaste grannar via cosinusavstånd
SELECT content FROM documents
ORDER BY embedding <=> $1
LIMIT 5;