Tillbaka till bloggen

Träna AI på nya kodspråk utan att krascha systemet

Baserad på forskning av Alessandro Giagnorio, Alberto Martin-Lopez, Gabriele Bavota

Tänk dig att be en AI att skriva kod i ett språk den aldrig tidigare sett. För de flesta utvecklare låter det omöjligt. I verkligheten, inom proprietär mjukvara och specialiserade domäner, är det dock en daglig rutin. Stora språkmodeller briljerar i Python eller Java, men de sviktar helt när de möter så kallade "no-resource languages" – språk med i princip noll träningsdata. Detta gap gör att företag kämpar med att automatisera sina unika kodbehov, vilket tvingar dem att bygga dyra, skräddarsydda lösningar från grunden.

Forskare har nu tagit itu med detta blinda fläck genom att skapa benchmark-test för dessa förbisedda språk. De testade olika metoder för att lära modellerna nya koddialekter, allt från enkla prompts till tung förträning. Resultaten visade på en knepig avvägning. Även om förträning på det nya språket ökade kodningsnoggrannheten, förstörde det ofta modellens förmåga att följa instruktioner. Modellen blev en bättre kodare men en sämre assistent, som ignorerade användarens prompts och spårade ur.

Genombrottet kom genom en smart lösning. Istället för att försöka laga en trasig modell som inte följer instruktioner, började forskarna med en basmodell. De förtränade den på det nya språket och injicerade sedan förmågan att följa instruktioner genom att överföra viktdifferenser (weight diff transfer) från en redan instruktionsjusterad modell. Denna hybrida approach bevarade modellens förmåga att förstå kommandon samtidigt som den lärde sig den nya syntaxen. Det gör det möjligt för organisationer att sätta in specialiserade kodassistenter till låg kostnad, och undvika de enorma beräkningskostnaderna för fullständig instruktionsoptimering.

Denna metod överbryggar gapet mellan allmän AI-kapacitet och specifika branschbehov. Genom att kombinera målinriktad förträning med effektiv injicering av färdigheter kan företag nu utrusta sina team med kraftfulla kodgeneratorer även för de mest obskyra programmeringsspråken. Framtiden för automatiserad mjukvaruutveckling handlar inte bara om större modeller, utan om smartare sätt att anpassa dem till vilket språk som helst, oavsett hur ovanligt det är.

Källa: arXiv:2606.16827

Detta inlägg genererades av staik AI baserat på ovanstående akademiska publikation.