2026. szeptember 5., szombat · Eszközök
Vortex: oszloporientált fájlformátum GPU-alapú gépi tanuláshoz
Egy QCon London előadáson Onur Satici, a SpiralDB mérnöke és a Vortex nyílt forráskódú, oszloporientált fájlformátum egyik fejlesztője mutatta be, hogyan lehet adatokat közvetlenül S3 tárolóból GPU-ra streamelni egyetlen másolási lépésben. Az előadó szerint a Vortex, amely mára a Linux Foundation AI & Data projektjeinek része, réteges könnyű kódolásokkal, elrendezés alapú szegmens-szűréssel és nulla másolású memóriacsővezetékkel akár 60 gigabit/másodperc sebességet is elér, kiküszöbölve a CPU és NVMe szűk keresztmetszeteket. A demonstráció során egy 4K videó feldolgozását vizualizálták valós időben, GPU-n végzett átkódolással szemléltetve az oszlopszűrés hatását. Az állítások a projekt egyik fő fejlesztőjétől származnak, független teljesítménymérés az anyagban nem szerepel.
Miért fontos?
A gyors adatbetöltés kulcsfontosságú a nagy modellek tanításának költséghatékonyságához, és a Vortex egy konkrét, nyílt forráskódú megközelítést kínál erre.
Források
Említve a tudásbázisban
Kapcsolódó témák
Napi összefoglaló
Ez a hír a 2026. szeptember 5., szombat napi AI összefoglaló része.