2026. szeptember 28., hétfő · Eszközök

Google: GKE Pod pillanatképek drasztikusan lerövidítik az AI-modellek indítási idejét

Google benchmarkeredményei szerint a GKE Pod snapshot funkció akár 89%-kal csökkentheti a konténerek indítási idejét: egy 70 milliárd paraméteres modell 37, egy 8 milliárdos pedig 15 másodperc alatt tölt be. A technológia nem gyorsítótárazás, hanem teljes állapot-mentés és visszaállítás: a gVisor futtatókörnyezet segítségével elmenti a CPU- és GPU-memóriát, a fájlleírókat és a szálakat, majd egy új példány pontosan onnan folytatja, ahol az eredeti abbahagyta, kihagyva a modellbetöltés időigényes lépését. A funkció május óta érhető el általánosan a GKE Sandboxot használó klasztereken, konfigurációját két egyéni erőforrás, a PodSnapshotStorageConfig és a PodSnapshotPolicy vezérli. A Google által bemutatott ügyfélpélda, a Codeway szerint saját Retake platformjukon a korábbi egyperces indítási időt a cég állítása szerint 8 másodpercre csökkentette a funkció. Szakértők ugyanakkor arra figyelmeztetnek, hogy a pillanatképek érvénytelenítése – például GPU-típus vagy CUDA-verzió változása esetén – nehezebb platformproblémát jelenthet, mint maga a mentés.