Självförbättrande AI-modeller har länge lovordat förmågan att lära sig av sina egna misstag, men en ny teknik avslöjar varför processen ofta misslyckas utan att väcka misstanke. Forskare har upptäckt att standardmetoden för självdistillation, där en modell lär sig av sina egna verifierade lösningar, faktiskt hämmar den tänkeprocess som krävs för framgång. Genom att vända på steken har de skapat ett system som accelererar matematisk resonemangsförmåga dramatiskt.

Problemet ligger i hur modellerna bearbetar information under träningen. När en elevmodell försöker efterlikna en lärarmodell som redan löst ett problem, blir läraren överkonfident i uppenbara strukturella ord som ”därför” eller ”låt oss”. Samtidigt ignorerar den de avgörande ”tänketoken” – ögonblicken av ”vänta”, ”kanske” och ”får vi se” som driver komplexa, flerstegssökningar. Denna obalans får eleven att hoppa över det hårda arbetet med resonemang, vilket leder till inkonsekventa resultat i matematiska uppgifter, även när metoden fungerar väl på andra områden.

Lösningen är anti-självdistillation, som gör det motsatta av traditionella metoder. Istället för att dra eleven mot läraren trycker den undan dem från varandra, vilket skapar en divergens som lyfter fram de saknade resonemangsstegen. Tillvägagångssättet begränsar naturligt inlärningssignalen och inkluderar en smart spjällmekanism som stoppar processen när läraren blir för konfident. Resultatet är en direkt ersättare för befintliga system som tvingar modellen att engagera sig i problemets faktiska logik snarare än att bara kopiera det slutgiltiga svaret.

Påverkan är betydande. Över fem olika modeller med mellan 4 och 30 miljarder parametrar uppnådde anti-självdistillation baslinjen med en noggrannhet i bara 2 till 10 gånger färre träningssteg. Den ökade också den slutgiltiga noggrannheten med upp till 11,5 procentenheter. Detta genombrott erbjuder en skalbar väg för språkmodeller att bootstrapa sina egna resonemangsförmågor, och förvandlar självkorrigering till en kraftfull motor för intelligens snarare än en flaskhals.