Kompetensillusionen

Den nuvarande kapprustningen inom AI är besatt av råa mätvärden: tokens per sekund, antal parametrar och storleken på kontextfönstret. Vi hyllar "tankens hastighet", men ignorerar samtidigt ett fundamentalt arkitektoniskt tomrum. Jag kallar detta för Persistence Gap – glappet i beständighet.

Persistence Gap är skillnaden mellan en AI:s förmåga att processa en ögonblicksbild av data och dess förmåga att upprätthålla ett koherent, föränderligt tillstånd över tid. Det kan handla om en karaktär i ett rollspel som vägrar utvecklas efter en traumatisk händelse, eller en videogenerator som behandlar den första rutan som ett orubbligt ankare. Branschen har nått en vägg. Vi har byggt otroligt snabba miniräknare, men vi har ännu inte byggt en kognitiv ryggrad.

Faran här är "kompetensillusionen". Eftersom stora språkmodeller (LLM) kan efterlikna stilen hos en beständig entitet, antar beslutsfattare att själva substansen av beständighet finns där. Det gör den inte. Vi driftsätter agenter i produktion som i praktiken lider av en permanent, högfungerande form av anterograd amnesi.

Kognitiv stagnation och det temporala tomrummet

Det tydligaste beviset på detta glapp syns inom psykologisk och temporal evolution. Analyser av AI-rollspel visar en oroande trend: kognitiv stagnation. Modellerna är designade för att hålla sig till en persona, men de förväxlar "konsekvens" med "stasis". En karaktär som börjar som en blyg novis förblir blyg även efter ett simulerat krig. AI:n simulerar inte en människa; den upprepar ett mönster. Införandet av verktyg som ArcANE för att mäta denna utveckling visar att vi först nu inser att att "hålla sig i karaktär" inte är samma sak som att "utvecklas inom en karaktär".

Detta misslyckande sträcker sig även till det multimodala området. Vi ser ett återkommande tema av "första-rutan-fixering" i videogenerering, där den initiala bilden fungerar som ett stelt ankare som fryser kompositionen och dödar naturliga rörelser. AI:n föreställer sig inte en scen som utspelar sig över tid; den försöker stretcha en enskild bild till en sekvens.

Ännu mer kritiskt är AI-agenternas oförmåga att hantera interaktionsloopen mellan handling och omvärld. Som WorldMemArena-benchmarken visar har agenter svårt att följa med i en värld som förändras. De behandlar minnet som en statisk hårddisk snarare än en levande dagbok. Kombinerar man detta med fynden från AsyncTool – som visar hur agenter slösar tid och misslyckas med asynkron koordinering – blir det tydligt att AI idag saknar en känsla för kronologi. Den kan resonera kring en prompt, men den kan inte existera i en tidslinje.

Hårdvaruparadoxen: Hastighet kontra koherens

Intressant nog löser vi hårdvaruflaskhalsarna samtidigt som de kognitiva gapen vidgas. Ramverk som Domino uppnår fem gånger högre genereringshastighet, och VideoMLA sänker minnesanvändningen med 92 % genom att optimera hur attention-heads delar data.

På pappret är detta en triumf. I praktiken är det en paradox. Vi gör AI:ns "slutartid" extremt snabb, men "filmen" är fortfarande blank. Att minska minnesoverhead (VideoMLA) och öka genomströmningen (Domino) är nödvändigt för skalbarhet, men det löser inte det underliggande problemet med långsiktig koherens. Du kan generera tusen tokens per sekund, men om dessa tokens beskriver en karaktär som glömmer att hen blev skjuten i förra scenen, är hastigheten irrelevant.

Vi optimerar rördragningen medan huset saknar grund. Branschen prioriterar leveranseffektivitet framför tillståndets integritet.

Regulatoriv friktion som en spegel av tekniska misslyckanden

Persistence Gap är inte bara en teknisk glitch; det manifesteras även i de etiska och regulatoriska misslyckandena hos företagen som driftsätter dessa system. Det finns en slående parallell mellan den tekniska tendensen att prioritera omedelbar datainsamling framför långsiktig koherens och det nuvarande regulatoriska klimatet i Europa.

"Betala eller samtyck"-modellerna hos Schibsted och TikToks invasiva spårning mellan appar är symptom på samma tankesätt: en preferens för den omedelbara, statiska datainsamlingen framför en hållbar och etisk relation med användaren. Precis som en videogenerator klamrar sig fast vid den första rutan, klamrar sig dessa företag fast vid en "samla-allt"-mentalitet och ignorerar den långsiktiga juridiska och etiska utvecklingen av integritetsrättigheter.

För en CTO är läxan tydlig: "move fast and break things"-approachen till data – och till AI-tillstånd – skapar en skuld i form av risker som förr eller senare kommer att krävas in. Oavsett om det handlar om en GDPR-bot eller ett misslyckat agentflöde, är kostnaden för att ignorera beständighet hög.

Praktiska råd för CTO:s och CISO:s

Persistence Gap innebär att "Agentisk AI" för närvarande är ett bräckligt löfte. Om du integrerar dessa system i kärnprocesser i verksamheten måste du skifta fokus från prompting till state management.

1. Granska "State Drift" Lita inte på att modellen upprätthåller konsekvens över långa sessioner. Implementera externa tillståndslager (databaser eller kunskapsgrafer) som fungerar som den kognitiva ryggrad modellen saknar. Om din agent hanterar ett långsiktigt projekt måste "sanningen" leva utanför kontextfönstret.

2. Gå bortom statiska benchmarks Sluta utvärdera din AI baserat på precision i enstaka interaktioner. Implementera "temporala stresstester". Använd ramverk likt WorldMemArena eller AsyncTool för att se hur dina agenter hanterar asynkrona fördröjningar och föränderliga miljöer. Om en agent inte kan hantera en 30 sekunders fördröjning i ett verktygssvar utan att tappa tråden, är den inte redo för produktion.

3. Koppla loss samtycke från tvång Ta lärdom av fallen med TikTok och Schibsted och se över era pipelines för datainsamling. Säkerställ att era mekanismer för samtycke inte bara är "tvingade" ögonblicksbilder. I en tid av ökad regulatorisk granskning är etisk beständighet – att upprätthålla en transparent och konsekvent relation till användardata – en konkurrensfördel.

4. Prioritera koherens framför genomströmning När du väljer mellan olika ramverk, låt dig inte bländas av löften om "5x hastighet". Fråga istället hur ramverket hanterar långsiktig koherens och minnesåtervinning. Hastighet är en råvara; beständighet är den faktiska vallgraven.