Tänk dig en AI som inte bara löser problem, utan som uppfinnar de gåtor som behövs för att lösa dem. Det är kärnan i SPADE, ett nytt ramverk som gör det möjligt för stora språkmodeller att ständigt förbättra sig genom att spela mot sig själva. Istället för att lita på statiska, handplockade datamängder som snabbt blir föråldrade, skapar SPADE en dynamisk inlärningsloop där AI:n designar egna utmaningar och sedan försöker övervinna dem.

Systemet fungerar genom att samma modell tar på sig två olika roller. Först skriver en miljödesigner kompletta, körbara träningsmiljöer med hjälp av kod, inklusive regler, tillståndsövergångar och belöningsfunktioner. Därefter lär sig en resonemangsagent att navigera i dessa skräddarsydda världar. Designerns mål är att generera problem som ligger precis på gränsen för agentens nuvarande förmågor – utmanande nog att tvinga fram tillväxt, men lösbara nog att vara hanterbara. Detta uppnås genom att mäta klyftan mellan agentens prestation med och utan ledtrådar, vilket i praktiken lär designern att rikta in sig på inlärarens svagheter.

Resultaten är slående. När systemet skalas upp till modeller med 30 miljarder parametrar överträffar SPADE de starkaste baslinjerna med fasta miljöer med i genomsnitt 5,3 poäng över åtta olika benchmark-test inom matematik, vetenskap, kod och resonemang. Vinsterna är ännu tydligare i komplexa scenarier med verktygsanvändning över flera steg, där prestandan ökade med 5,7 poäng på BFCL-v4 och med 13,9 poäng på ACEBench-Agent. Avgörande nog ökar fördelen när modellen skalas upp, vilket tyder på att denna metod för öppen, självförbättrande inlärning blir kraftfullare med större system.

Genom att göra miljödesignen till en lärbar komponent snarare än en fast begränsning, markerar SPADE ett betydande steg mot en verkligen adaptiv AI. Den går bortom begränsningarna i statisk träningsdata och erbjuder en konkret väg för modeller att ständigt utvecklas genom att generera de exakta problem de behöver mästra.