Multi-agent workflows

Senast uppdaterad:

På denna sida

Kombinera staik-modeller i agent-flöden. Varje modell har sina styrkor — använd rätt modell för rätt uppgift:

ModellStyrkorAgentroll
qwen3.6:35b-a3bKodning, komplexa uppgifterKodare, problemlösare
gemma4:31bNoggrannhet, granskning, språk, visionGranskare, orchestrator, bildanalys
qwen3.5:9bSnabb, enklare uppgifterRouting, sammanfattning

1. Kodare + granskare-loop

Två agenter tar turer: en kodar, en granskar. Loopen fortsätter tills granskaren godkänner resultatet.

text
Kodare (qwen3.6:35b) → skriver kod

Granskare (gemma4:31b) → granskar + ger feedback

Godkänt? → Ja: klart | Nej: tillbaka till kodare
python
from crewai import Agent, Task, Crew, LLM

coder_llm = LLM(
    model="openai/qwen3.6:35b-a3b",
    base_url="https://api.staik.se/v1",
    api_key="sk-st-your-key",
)
reviewer_llm = LLM(
    model="openai/gemma4:31b",
    base_url="https://api.staik.se/v1",
    api_key="sk-st-your-key",
)

coder = Agent(
    role="Developer",
    goal="Write clean, working Python code",
    backstory="Senior Python developer with focus on readability.",
    llm=coder_llm,
)
reviewer = Agent(
    role="Code Reviewer",
    goal="Review code for bugs, style and correctness",
    backstory="Meticulous code reviewer who catches edge cases.",
    llm=reviewer_llm,
)

code_task = Task(
    description="Skriv en Python-funktion som validerar e-postadresser med regex.",
    expected_output="En korrekt Python-funktion med docstring.",
    agent=coder,
)
review_task = Task(
    description="Granska koden. Kontrollera edge cases, säkerhet och läsbarhet.",
    expected_output="Godkänt eller lista med förbättringsförslag.",
    agent=reviewer,
)

crew = Crew(agents=[coder, reviewer], tasks=[code_task, review_task])
print(crew.kickoff())

2. Orchestrator

En central agent bryter ned uppgiften och delegerar delar till specialiserade agenter med olika modeller.

text
Orchestrator (gemma4:31b) → analyserar uppgiften
  ├→ Kodare (qwen3.6:35b) → skriver implementation
  ├→ Testare (qwen3.5:9b) → skriver tester (snabb)
  └→ Orchestrator → sammanställer resultat
python
from crewai import Agent, Task, Crew, Process, LLM

def staik_llm(model: str) -> LLM:
    return LLM(
        model=f"openai/{model}",
        base_url="https://api.staik.se/v1",
        api_key="sk-st-your-key",
    )

orchestrator = Agent(role="Project Manager",
                     goal="Break down tasks and coordinate the team",
                     llm=staik_llm("gemma4:31b"))
coder = Agent(role="Developer",
              goal="Implement features based on specifications",
              llm=staik_llm("qwen3.6:35b-a3b"))
tester = Agent(role="QA Engineer",
               goal="Write comprehensive test cases",
               llm=staik_llm("qwen3.5:9b"))

task = Task(
    description="Bygg en REST API-endpoint för användarregistrering med validering och tester.",
    expected_output="Komplett implementation med tester.",
    agent=orchestrator,
)

crew = Crew(
    agents=[orchestrator, coder, tester],
    tasks=[task],
    process=Process.hierarchical,
    manager_agent=orchestrator,
)
print(crew.kickoff())

3. Human-in-the-loop

Agenten arbetar autonomt men pausar vid kritiska steg för mänskligt godkännande.

python
from openai import OpenAI

client = OpenAI(base_url="https://api.staik.se/v1", api_key="sk-st-your-key")

def generate_and_review(task: str) -> str:
    # Steg 1: Agenten genererar ett förslag
    proposal = client.chat.completions.create(
        model="qwen3.6:35b-a3b",
        messages=[
            {"role": "system", "content": "Du är en senior utvecklare. Generera ett förslag."},
            {"role": "user", "content": task},
        ],
    ).choices[0].message.content

    print(f"\n--- FÖRSLAG ---\n{proposal}\n")

    # Steg 2: Människa granskar
    feedback = input("Godkänn (enter) eller ge feedback: ")
    if not feedback:
        return proposal

    # Steg 3: Agenten reviderar baserat på feedback
    return client.chat.completions.create(
        model="qwen3.6:35b-a3b",
        messages=[
            {"role": "system", "content": "Revidera ditt förslag baserat på feedbacken."},
            {"role": "user", "content": task},
            {"role": "assistant", "content": proposal},
            {"role": "user", "content": feedback},
        ],
    ).choices[0].message.content

print(generate_and_review("Designa ett databasschema för en e-handelsapp."))

4. Pipeline

Sekventiellt flöde där varje steg bearbetas av en specialiserad modell — output från ett steg blir input till nästa.

text
Skriv (qwen3.6:35b) → Granska (gemma4:31b) → Översätt (qwen3.5:9b)
python
from openai import OpenAI

client = OpenAI(base_url="https://api.staik.se/v1", api_key="sk-st-your-key")

def pipeline_step(model: str, system: str, content: str) -> str:
    return client.chat.completions.create(
        model=model,
        messages=[
            {"role": "system", "content": system},
            {"role": "user", "content": content},
        ],
    ).choices[0].message.content

draft = pipeline_step(
    "qwen3.6:35b-a3b",
    "Du är en teknisk skribent. Skriv tydlig dokumentation.",
    "Dokumentera hur man sätter upp en WebSocket-server i Python.",
)
reviewed = pipeline_step(
    "gemma4:31b",
    "Du är en redaktör. Förbättra text utan att ändra tekniskt innehåll.",
    draft,
)
translated = pipeline_step(
    "qwen3.5:9b",
    "Översätt till flytande svenska. Behåll kodexempel oförändrade.",
    reviewed,
)
print(translated)

Ramverk

staik fungerar direkt med populära ramverk — byt bara base_url och API-nyckel:

python
from langchain_openai import ChatOpenAI
from langchain_core.messages import HumanMessage

llm = ChatOpenAI(
    model="gemma4:31b",
    base_url="https://api.staik.se/v1",
    api_key="sk-st-your-key",
)

response = llm.invoke([HumanMessage(content="Skriv en haiku om Stockholm")])
print(response.content)

Verktyg i agenterna

Ge agenterna tool calling och inbyggd web search — så slipper du bygga sök- och verktygsinfrastruktur själv.