Vi har under åratal byggt upp enorma språkmodeller med utgångspunkten att varje enskilt lager i det neurala nätverket är lika avgörande för att lära sig nya färdigheter. Men vad om denna utgångspunkt är grundläggande felaktig? Ny forskning tyder på att hemligheten bakom kraftfull AI-anpassning kanske döljer sig i bara en del av modellen, vilket utmanar grunderna för hur vi idag tränar artificiell intelligens.

Forskare har länge använt förstärkningsinlärning för att finjustera stora språkmodeller, där alla parametrar uppdaterades uniformt i tron att varje lager bidrar lika mycket till förbättringen. En systematisk studie avslöjar dock en slående sanning: att träna ett enda transformer-lager kan återfå de flesta av de vinster som uppnås genom fullständig parameterträning, och ibland till och med överträffa dem. Genom att isolera individuella lager upptäckte forskarteamet att vinsterna med förstärkningsinlärning inte är jämnt fördelade, utan istället är högt koncentrerade till en liten delmängd av nätverket.

Den mest överraskande upptäckten är var dessa högeffektiva lager finns. De samlas konsekvent i mitten av transformer-stapeln, medan lagen nära ingångs- och utgångssidorna bidrar betydligt mindre. Detta mönster är förvånansvärt stabilt över olika familjer av modeller, algoritmer och uppgifter, från matematisk resonemang till kodgenerering och agentic beslutsfattande. Det tyder på att kärnans förmåga till resonemang bearbetas centralt, medan de yttre lagen hanterar mer perifera funktioner.

Denna upptäckt kan revolutionera hur vi bygger effektiv AI. Om vi kan uppnå toppresterande resultat genom att uppdatera endast några få mellersta lager, kan vi drastiskt sänka de beräkningsmässiga kostnaderna för modellträning. Det tvingar oss att ompröva intelligensens arkitektur och antyder att mindre faktiskt kan vara mer när det gäller att lära maskiner att tänka.