Röststyrd videoproduktion i realtid
Baserad på forskning av Jintao Zhang, Kai Jiang, Jintao Chen, Xu Wang, Yang Luo
Tänk dig att regissera en video i realtid, helt enkelt genom att prata. Forskare har presenterat Vidu S1, en banbrytande modell som låter användare styra digitala karaktärer med rösten medan videon genereras. Det handlar inte om en förrenderad klipp som väntar på att spelas upp, utan en live-upplevelse där dina ord omedelbart formar den visuella berättelsen.
Tekniken bryter mot traditionen inom videogenerering, som vanligtvis kräver att man väntar i flera minuter på att en statisk fil ska renderas. Vidu S1 stödjer skapandet av videor utan tidsbegränsning, utan de suddigheter, avvikelser eller visuella förvrängningar som vanligtvis plågar längre AI-genererade produktioner. Detta uppnås genom att utnyttja TurboDiffusion och TurboServe för att leverera videor i 540p-upplösning med upp till 42 bilder per sekund på vanliga konsumentgrafikkort. Det innebär att du inte behöver en superdator för att delta; en vanlig pc räcker för att driva denna höghastighetsgenerering.
Det som gör detta särskilt slående är den nivå av personalisering och kontroll som erbjuds. Användare kan ladda upp anpassade bilder på verkliga personer, animekaraktärer eller till och med husdjur, och tilldela specifika rösttoner till dessa digitala avatarer. Systemet reagerar på röstinstruktioner när som helst, vilket möjliggör dynamiska justeringar under själva genereringsprocessen. I tester presterade Vidu S1 bäst inom alla testkategorier och uppfyllde samtidigt kraven för realtidsinferens, vilket bevisar att högkvalitativ, responsiv videogenerering inte längre är enbart teoretisk.
Konsekvensen är ett skifte från passiv konsumtion till aktiv skapande. Genom att ta bort latensbarriären och möjliggöra röststyrd interaktion demokratiseras videoproduktionen. Du är inte längre bara en som ger instruktioner till en AI och väntar; du samarbetar med den i realtid. Med en spelbar demo redan tillgänglig har gapet mellan idé och visuell verklighet aldrig varit mindre, vilket signalerar en ny era av interaktiv digital media.