AI-fogalom · Kutatás
Zero-shot és few-shot tanulás
Olyan képesség, amellyel egy modell új feladatot old meg kevés (few-shot) vagy akár egyetlen példa nélkül (zero-shot), külön betanítás nélkül.
Más néven: Zero-shot learning, Few-shot learning, In-context learning, Kevés példás tanulás, Nulla példás tanulás
A zero-shot tanulás azt jelenti, hogy egy modell úgy old meg egy számára korábban be nem gyakorolt feladatot, hogy ahhoz egyetlen konkrét példát sem kap, csak a feladat leírását vagy egy utasítást. A few-shot tanulás ennek egy közeli rokona: a modell a kérdéssel együtt néhány (jellemzően kettő és néhány tucat közötti) megoldott mintapéldát is kap, amelyekből felismeri a feladat szerkezetét, és ez alapján válaszol az új esetre. Mindkét megközelítés lényege, hogy a modell paraméterei nem változnak, azaz nincs hagyományos értelemben vett újratanítás vagy finomhangolás.
A nagy nyelvi modellek esetében ezt a viselkedést leggyakrabban in-context learningnek nevezik: a példák vagy utasítások egyszerűen a bemeneti szövegkörnyezet (prompt) részeként jelennek meg, és a modell a hatalmas mennyiségű előtanítási adatból korábban megtanult mintázatok, összefüggések és nyelvi struktúrák alapján következtet ki egy elfogadható választ. Minél nagyobb és sokoldalúbb egy modell előtanítása, annál jobb eséllyel generalizál olyan feladatokra is, amelyeket sosem látott explicit módon, ez adja a képesség gyakorlati erejét.
A jelentősége abban áll, hogy jelentősen csökkenti a címkézett adatok és a gépi erőforrások iránti igényt: nem kell minden új feladathoz külön adathalmazt gyűjteni és a modellt újratanítani, elég egy jól megfogalmazott utasítást vagy néhány példát megadni. Ez teszi lehetővé, hogy ugyanaz az alapmodell rugalmasan alkalmazható legyen fordításra, összefoglalásra, osztályozásra, kódírásra vagy egyedi üzleti feladatokra is, mindössze a prompt megváltoztatásával.
Gyakorlati alkalmazás terén a zero-shot és few-shot módszereket elsősorban chatbotoknál, tartalomgenerálásnál, adatcímkézés gyorsításánál és prototípusok gyors kipróbálásánál használják, amikor nincs idő vagy erőforrás egy teljes finomhangolási folyamatra. Fontos korlát azonban, hogy a teljesítmény érzékeny a példák megválasztására és a prompt megfogalmazására, illetve összetettebb, szakterület-specifikus feladatoknál gyakran elmarad a célirányosan finomhangolt modellekétől.