AI-fogalom · Üzlet
Számítási kapacitás (compute)
A mesterséges intelligencia modellek betanításához és futtatásához szükséges nyers számítási erőforrás, jellemzően specializált processzorokon mérve.
Más néven: compute, AI compute, GPU-kapacitás, számítási teljesítmény, gépi tanulási infrastruktúra
A számítási kapacitás (angolul compute) azt a hardveres erőforrást jelenti, amelyre a mesterséges intelligencia modellek betanításához és üzemeltetéséhez szükség van. Ide tartoznak a grafikus processzorok (GPU-k), a mesterséges intelligenciára szabott célchipek és az ezeket összekapcsoló adatközponti infrastruktúra, valamint az energiaellátás és hűtés, amely lehetővé teszi ezek folyamatos működését. A kapacitást gyakran lebegőpontos műveletek másodpercenkénti számában (FLOPS) vagy annak nagyságrendjeiben mérik.
A modern nagy nyelvi modellek és más mélytanulási rendszerek betanítása rendkívül számításigényes: a modell mérete, a betanítási adathalmaz nagysága és a kívánt pontosság mind növeli a szükséges kapacitást. Emiatt a legkorszerűbb modellek fejlesztése ma már nem csak algoritmikus, hanem infrastrukturális versenyfutás is, ahol a hozzáférhető, megfizethető számítási kapacitás mennyisége gyakran meghatározza, mely szervezetek képesek egyáltalán versenyképes modelleket létrehozni.
A számítási kapacitás jelentősége túlnyúlik a technológiai iparon: stratégiai erőforrássá vált, amelyhez való hozzáférés befolyásolja a gazdasági versenyképességet és a nemzetbiztonsági megfontolásokat is, ezért egyes országok exportkorlátozásokkal és iparpolitikai eszközökkel próbálják szabályozni a fejlett chipekhez és adatközpontokhoz való hozzáférést. Emellett a kapacitás növekvő energiaigénye miatt a fenntarthatóság és az erőforrás-elosztás kérdései is egyre fontosabbá válnak a mesterséges intelligencia fejlesztésével kapcsolatos vitákban.