Slutet för brute force: Varför skalning ensamt inte längre räcker

Under de senaste tre åren har den rådande ortodoxin inom artificiell intelligens varit enkel: skala upp allt. Vill du ha smartare modeller? Mata dem med fler parametrar. Vill du ha bättre resonemangsförmåga? Ösa på med fler tokens. Denna era av ”brute force” behandlade data som en råvara – ett enormt, odifferentierat hav som bara skulle sugas upp och bearbetas.

Men nu slår vi i väggen. Kvantitet börjar äta upp kvaliteten. Vi går in i vad jag kallar precisionsparadoxen. Samtidigt som regelverken stramas åt kring definitionen av integritet, visar forskningen att den blinda skalningen ger allt lägre avkastning. De vinnare som dominerar nästa cykel kommer inte vara de med störst datamängder, utan de som besitter den mest kirurgiska kontrollen över sin informationsarkitektur.

Övergången från ”Big Data” till ”High-Fidelity Data” är inte bara ett tekniskt val; det håller på att bli ett existentiellt krav för europeiska företag.

Anonymiseringsmiraget

Under den generativa AI-boomen opererade många bolag utifrån ett farligt antagande: att data var ”säker” så fort den passerat genom standardiserade rörledningar för anonymisering. Denna logik fungerade som en bekväm sköld mot granskning enligt GDPR, samtidigt som man kunde absorbera enorma mängder användarbeteenden.

Den skölden håller nu på att spricka. Nya riktlinjer från EDPB (Europeiska dataskyddsstyrelsen) tyder på att tillsynsmyndigheterna rör sig mot en betydligt strängare tolkning av vad som faktiskt utgör anonym data. I detta nya landskap kan traditionella metoder för maskering och pseudonymisering – de tekniker som många svenska företag idag litar på – visa sig otillräckliga för att möta de juridiska kraven på anonymitet.

Om din modell kan rekonstruera individers identiteter genom slutledning eller mönsterigenkänning arbetar du inte med anonym data; du arbetar med högriskdata av personlig karaktär. För CTO:er som bygger RAG-system (Retrieval-Augmented Generation) eller finjusterar språkmodeller baserat på kundinteraktioner innebär detta att gamla metoder för datatvätt är föråldrade. Regelefterlevnad kan inte längre vara något man adresserar i efterhand; det måste byggas in i hur data struktureras och samlas in från dag ett.

Som tur finns det ljusglimtar från våra lokala myndigheter. Att IMY lanserar en ”innovationssandlåda” markerar ett avgörande skifte i den svenska tillsynspositionen. Genom att erbjuda en miljö där utvecklare kan testa idéer kring databehandling utan omedelbar risk för sanktioner, erkänner man att AI-utveckling kräver utrymme att andas. För ledningsgrupper bör denna sandlåda ses som en strategisk tillgång – en miljö med låg risk där man kan validera sin datastrategi innan man satsar miljontals kronor på beräkningskraft för en modell som senare kan förklaras olaglig redan i sin design.

Destilleringsdilemmat: När mer inte blir bättre

Samtidigt som regulatorerna drar åt snaran kring vad vi använder, blottlägger forskare brister i hur vi lär maskiner saker. Det har länge funnits en föreställning om att ”on-policy”-inlärning – där elevmodeller tvingas imitera varje enskild token som genereras av en större lärarmodell – var guldstandarden för hög trohet och för att undvika så kallad ”catastrophic forgetting”.

Ny forskning kring on-policy-destillering motbevisar effektivt denna myt. Det visar sig att när man tvingar en mindre modell att replikera varenda detalj från sin föregångare, kan det faktiskt försämra prestandan. Problemet ligger ofta i diskrepanser vid tokenisering samt det inneboende bruset i lärarmodellens output; när man kräver total imitation kräver man även att alla fel kopieras rakt av.

Detta fynd sätter fingret på kärnan i de strategier för finjustering som används inom industrin idag. Om blind imitation leder till sämre generaliseringsförmåga, blir ”smart sampling” – där man endast väljer ut högkvalitativa tokens med stark signal för träning – viktigare än ren volym. Vi ser nu en rörelse bort från massimitation mot kurerad instruktionsstyrning (instruction tuning). Målet är inte längre att få små modeller att agera exakt likadant som stora, utan att destillera fram logiken bakom resultatet och rensa bort statistiskt brus.

Temporär intelligens kontra rå genomströmning

Slutligen ser vi denna trend mot precision manifesteras i hur vi hanterar tid och kontext i multimodala AI-modeller. Dagens video- och strömningsmodeller lider av ett fundamentalt kognitivt glapp: de har svårt med temporär kontinuitet. De är duktiga på att känna igen vad som händer just nu, men saknar ett sammanhängande minne av vad som hände för tio minuter sedan om det inte finns kvar i deras omedelbara arbetsminne (buffer).

Introduktionen av arkitekturer som OneStreamer belyser varför rå genomströmning (förmågan att processa bilder per sekund) håller på att ersättas av temporär minneshantering (förmågan att bibehålla kontext över tid). En modell som kan processa 60 bilder per sekund men glömmer varför en händelse inträffade fem sekunder tidigare är i princip värdelös för komplexa applikationer, såsom autonom övervakning eller intelligent videoanalys.

OneStreamer löser detta genom att förena perception med effektiv minneshantering, vilket bevisar att sann intelligens kräver mer än bara snabbare processorer; det krävs en arkitektonisk förmåga till ihållande uppmärksamhet och kontextuellt minne. Kort sagt: hastighet utan minne är bara dyr rörelseoskärpa.

Strategiska råd till ledningen

När vi skiftar från expansionseran till precisionens era måste CTO:er och CISO:er justera sina färdplaner därefter:

1. Granska er anonymiseringslogik nu: Utgå inte från att era befintliga ETL-processer lever upp till EDPB:s kommande krav på anonymitet. Satsa på differentiell integritet (differential privacy) eller syntetisk datagenerering snarare än att enbart lita på traditionell maskering om ni planerar långsiktig träning på känsliga dataset.

2. Utnyttja regulatoriska sandlådor tidigt: Se IMY:s innovationssandlåda som en del av er FoU-cykel. Att testa er dataarkitektur i en kontrollerad miljö ger både teknisk validering och politiskt skydd vid framtida revisioner.

3. Prioritera signal framför skala vid träning: Sluta mäta framgång enbart genom datasetets storlek eller antal parametrar under finjusteringsförsök. Undersök destilleringsmetoder som prioriterar högkvalitativa instruktionssignaler istället för omfattande token-imitation för att undvika prestandafall i mindre edge-modeller.

4. Tänk om kring multimodala arkitekturer: När ni utvärderar AI-lösningar för video eller sensordata, titta bortom latens och bildfrekvens (FPS). Kräv bevis på temporär koherens – kan modellen koppla samman tidigare händelser med nuvarande handlingar? Det är där det verkliga värdet ligger för realtidsapplikationer drivna av intelligens.