AI-fogalom · Kutatás
Paraméter
A neurális háló belső, tanítás közben módosuló számértéke, amely a modell tudását és viselkedését kódolja.
Más néven: Model parameter, Súly, Weight, Tanulható paraméter
A paraméter egy gépi tanulási modell, jellemzően egy neurális háló olyan belső számértéke, amelyet a tanítási folyamat során fokozatosan állítanak be, hogy a modell minél pontosabban teljesítsen a feladatán. Ilyenek elsősorban a rétegek közötti kapcsolatokat leíró súlyok és az úgynevezett bias (eltolás) értékek. Ezek nem előre rögzített szabályok, hanem a bemeneti adatokból tanult mintázatokat kódolják számokká.
A tanítás során a modell először véletlenszerű vagy előre inicializált paraméterértékekkel indul, majd egy hibafüggvény (loss function) segítségével méri, mennyire téved a predikcióiban. Ezt a hibát visszaterjesztve (backpropagation) apránként módosítja a paramétereket úgy, hogy a hiba csökkenjen. Ez a folyamat milliószor, sok esetben milliárdszor megismétlődik, amíg a modell teljesítménye stabilizálódik.
A paraméterek száma gyakran a modell méretének és kapacitásának egyik mutatója: a nagy nyelvi modelleknél emlegetett „milliárd paraméteres” kifejezés arra utal, hány ilyen tanulható értéket tartalmaz a háló. Több paraméter általában nagyobb tanulási kapacitást jelent, ami finomabb mintázatok felismerését teszi lehetővé, de egyben nagyobb számítási és memóriaigénnyel, valamint a túltanulás (overfitting) fokozott kockázatával is jár.
Fontos megkülönböztetni a paramétereket a hiperparaméterektől: az előbbieket a tanítási algoritmus automatikusan tanulja az adatokból, az utóbbiakat (például tanulási ráta, rétegek száma) a fejlesztő állítja be a tanítás megkezdése előtt. A paraméterek végső, betanított értékei alkotják a modell úgynevezett súlyfájlját, amelyet később következtetéshez (inference) használnak fel.