Kompetensillusionen

Under de senaste två åren har narrativet kring artificiell intelligens dominerats av idén om exponentiell utveckling. Vi har förundrats över storleken på stora språkmodeller (LLM) och använt deras förmåga att efterlikna mänsklig syntax som ett mått på faktiskt förståelse. Men i takt med att vi rör oss från chattbotar mot autonoma agenter och integrerade medicinska enheter, börjar denna ”kompetensillusion” slå i en hård vägg.

Branschen står inför en dubbel kris: ett kognitivt glapp där modellerna saknar grundläggande logik om hur världen fungerar, samt ett regulatoriskt glapp där myndigheter inte längre accepterar ”hallucinationer” som en rimlig kostnad för innovation. Vi går nu från en era av experimentellt lekande till en era av strikt ansvarstagande. Om din modell inte förstår att ett objekt fortfarande existerar när det lämnar bildrutan, eller tappar bort vem som sa vad i ett samtal mellan tre personer, så handlar det inte bara om en ”bugg” – du hanterar ett systemfel som innebär djupa juridiska och operativa risker.

Att lösa den kognitiva blindheten

Den senaste forskningen belyser varför språkmodeller misslyckas när de kliver ur textrutan och ut i den fysiska eller sociala verkligheten. Det finns en ihållande diskrepanss mellan symbolisk slutledningsförmåga och verkligheten – något forskare har börjat kategorisera som ”kognitiv blindhet”.

Ta exempelvis frustrationen när man ber en AI generera kod som är tänkt att skapa en specifik bild. Som diskuteras i samband med det så kallade Program-to-Visual gap, råder ofta en enorm diskrepans mellan kod som körs helt felfritt och det resulterande visuella resultatet, som kan vara fundamentalt felaktigt. Detta är inte bara ett programmeringsfel; det är ett misslyckande i den spatiala slutledningsförmågan. Framväxten av ramverk som MaLiang-Harness representerar ett nödvändigt skifte: man rör sig bort från engångsgenerering (single-shot) mot iterativa processer med konstruktion, verifiering och revidering. Det erkänner att sann intelligens kräver ständiga återkopplingsloopar för att synkronisera intention med resultat.

Denna brist sträcker sig bortom pixlar och påverkar vår förståelse för fysik. Nuvarande videomodeller lider ofta av bristande objektpermanens – den grundläggande insikten om att objekt fortsätter att existera även när de döljs bakom något annat. Forskning kring ramverk som WROP syftar till att överbrygga detta genom att träna världsmodeller på grundläggande kognitiva principer snarare än ren mönsterigenkänning. Utan detta förblir AI fångad i ett evigt nu, oförmögen att bygga de mentala modeller som krävs för säker interaktion med den fysiska miljön.

Även den sociala intelligensen – förmågan att navigera dynamiken i grupper – släpar efter. I verkliga scenarier med flera talare kämpar dagens system med ”minneskaos”, där de misslyckas med att skilja på deltagare eller följa hur åsikter förändras under ett samtal. Utvecklingen av SpeakerMem-R1 tyder på att lösningen kräver mer än bara större datamängder; det krävs specialiserade minnesarkitekturer designade specifikt för social komplexitet. För branscher som legal tech eller automatiserad mötesanteckning är detta inte akademiska nyanser, utan absoluta krav för användbarhet.

Från riktlinjer till sanktioner: Den svenska verkligheten

Medan forskarna arbetar på att laga AI:ns hjärna, arbetar svenska regulatorer med att dra åt tyglarna. Den skandinaviska ”move fast and break things”-eran är officiellt över.

Vi ser nu en betydande samordning mellan olika tillsynsmyndigheter, vilket skapar en miljö med höga insatser för tekniska ledare. Ett tydligt exempel är det koordinerade samarbetet mellan PTS (Post- och telestyrelsen) och Läkemedelsverket. Deras fokus på skärningspunkten mellan dataskydd (GDPR) och produktsäkerhet inom MedTech signalerar att AI inom hälsovård inte längre kommer att betraktas som enbart mjukvara, utan som högreglerade hybrider av medicinsk hårdvara och mjukvara som kräver dubbel regelefterlevnad (compliance). För en CTO som bygger hälsoteknik innebär detta att ”säkerhet” inte längre bara handlar om kryptering; det handlar om att bevisa att din AI inte gör livsavgörande misstag på grund av bristfällig logik.

Vidare har IMY (Integritetsskyddsmyndigheten) skickat en tydlig varning genom sin nyligen utfärdade sanktionsavgift mot Miljödata i Karlskrona. Genom att utdöma en avgift på 1,8 miljoner kronor efter ett dataintrång orsakat av otillräckliga säkerhetsåtgärder, har IMY signalerat att teknisk oaktsamhet nu är direkt kopplad till tunga ekonomiska konsekvenser. Detta flyttar cybersäkerhet från IT-avdelningens bord direkt in i styrelserummet via bolagets riskhantering. När tekniskt slarv leder till läckage av personuppgifter söker myndigheterna mer än ursäkter – de söker bevis på strukturell stringens.

Konvergensen: Varför tekniska fel blir juridiska ansvarsfrågor

Syntesen av dessa trender blottlägger ett nytt landskap för svenska företag: Teknisk otillräcklighet håller på att bli synonymt med juridisk olydnad.

Om en AI-modell fallerar eftersom den saknar objektpermanens (ett tekniskt fel) och därefter orsakar skada i en industriell miljö eller feltolkar medicinska bilder (ett funktionellt fel), kan dessa brister inte längre avfärdas som ”begränsningar hos AI:n”. Under framväxande regelverk och striktare tolkningar från myndigheter som IMY och PTS kan sådana luckor komma att ses som brott mot omsorgsplikten eller standarder för produktsäkerhet.

Vi går in i en tid där ”tillförlitlighet” måste byggas in i själva arkitekturen – genom iterativ verifiering (som MaLiang-Harness) eller avancerade minnesstrukturer (som SpeakerMem-R1) – snarare än att försöka lappa över ytan med prompt engineering eller skyddsmekanismer (guardrails) efter driftsättning.

Strategiska råd till beslutsfattare

För CTO:er:

Gå bortom engångsgenerering: Sluta designa arbetsflöden baserade på enda prompter/output för komplexa uppgifter. Investera i arkitektoniska mönster som prioriterar cykler av verifiering och revidering. Om ditt system inte kontrollerar sitt eget arbete mot fysiska eller logiska begränsningar, är det inte redo för produktion.
Prioritera världsbildning (World Modeling): Vid utvärdering av multimodala modeller för robotik eller visionsuppgifter, se bortom poängen i benchmarks för textprecision. Kräv bevis på spatial slutledningsförmåga och temporal konsistens (objektpermanens).
Arkitektoniskt minne är kritiskt: För applikationer som involverar mänsklig interaktion (kundtjänst, vårdassistenter), se till att er teknikstack kan hantera identitetsspårning vid flera deltagare, istället för enkla buffertar för konversationshistorik.

För CISO:er:

Förbered dig på dubbel regelefterlevnad: Särskilt inom MedTech eller IoT bör ni sluta se GDPR och produktsäkerhet som separata stuprör. De smälter samman till ett gemensamt krav på ”säkra digitala produkter”. Era säkerhetsrevisioner måste nu ta hänsyn till hur AI-hallucinationer simultant kan leda till både säkerhetsbrister och integritetsläckor.
Kvantifiera teknisk skuld som finansiell risk: Använd aktuella beslut från IMY för att motivera budgetökningar för säkerhetsinfrastruktur. Betona att instabilitet i AI-implementeringar utgör direkta skulder i balansräkningen genom potentiella böter och rättsprocesser.
Granska datalinhage och åtkomstkontroll: Som sett i nyligen genomförda tillsynsärenden härrör många intrång från organisatoriska misslyckanden i behörighetshanteringen snarare än externa attacker själva. Säkerställ att er AI-integration inte skapar nya sårbarheter genom okontrollerade datapipelines under träning eller RAG-processer (Retrieval-Augmented Generation).