Egna GPU:er (BYO): så säkras din nod och inferens

Med egna GPU:er (BYO) kör du inferensen på din egen hårdvara, i din egen miljö. Dina prompts och svar behandlas hos dig, inte på delad infrastruktur. staiks roll är att säkert dirigera din organisations anrop till din nod och ge dig samma OpenAI-kompatibla API som resten av plattformen.

Skyddet är byggt i lager. Inget enskilt lager bär hela lasten, och om ett lager skulle fallera står de andra kvar.

Lagren av skydd

1. Data stannar hos dig (data residency)

Inferensen körs på din GPU. Prompts och svar lämnar aldrig din maskin för att behandlas någon annanstans. Det som når oss är metrik för fakturering, inte innehåll.

2. Krypterad transport

All trafik mellan staik och din nod går över ett krypterat privat nät (WireGuard-klassad kryptering), och anrop från din klient till API:t skyddas av TLS. Inferensen passerar aldrig i klartext över nätet.

3. Isolerat, privat nätverk

Din nod exponeras aldrig mot det öppna internet. Den nås bara via en enda, betrodd väg från staiks gateway, och nodens egen brandvägg avvisar allt annat. Även om något i det yttre lagret skulle brista finns ingen öppen dörr in till noden.

4. Enbart din organisation (tenant-isolering)

Din nod servar uteslutande din egen organisations anrop. Den kan inte hamna i den delade poolen och tar aldrig emot en annan kunds trafik. Det här är den hårdaste garantin i modellen och den är inbyggd i hur anrop dirigeras, inte något som beror på konfiguration i efterhand.

5. Ömsesidig autentisering

Noden och gateway:n verifierar varandra. Oautentiserade försök att nå noden avvisas, och staik exponerar aldrig interna hemligheter mot din nod. Trafik i båda riktningarna är knuten till en identitet, inte bara till en adress.

6. Minimal yta

Noden kör bara det som krävs för att serva din modell, och driften är nedlåst. Ju mindre som är exponerat, desto mindre finns att angripa.

Vad det betyder för dig

Känsliga data lämnar aldrig din kontroll. Du behåller den fysiska och operativa kontrollen över hårdvaran, och staik ger dig ett enkelt, krypterat och isolerat sätt att göra din egen GPU till en del av plattformen, utan att någon annan, inklusive vi, får en användbar insyn i din inferens.