AI-fogalom · Kutatás
Finomhangolás (fine-tuning)
Egy előre betanított AI-modell további, célzott tanítása szűkebb adathalmazon, hogy adott feladatra vagy stílusra specializálódjon.
Más néven: Fine-tuning, Finomhangolt modell, Utótanítás, Supervised fine-tuning (SFT)
A finomhangolás olyan eljárás, amelynek során egy már nagy, általános adathalmazon előre betanított modellt (például egy nyelvi modellt) egy kisebb, szűkebb témájú vagy célzottan összeállított adathalmazon tovább tanítanak. A cél, hogy a modell megőrizze az általános tudását, ugyanakkor jobban teljesítsen egy konkrét feladatban, iparági területen vagy elvárt válaszstílusban, mint az eredeti, finomhangolás nélküli változat.
Működését tekintve a folyamat a modell paramétereinek – vagy azok egy részének – finom módosításából áll: a betanított súlyokat kis lépésekben, alacsony tanulási rátával igazítják az új adatokhoz, hogy ne írják felül teljesen a korábban megszerzett általános nyelvi vagy vizuális tudást. Léteznek teljes modellt érintő megoldások, valamint erőforrás-takarékosabb technikák is, amelyek csak a paraméterek kis hányadát vagy kiegészítő rétegeket módosítanak, így gyorsabban és olcsóbban végrehajthatók, mint egy modell nulláról történő betanítása.
A finomhangolás jelentősége abban áll, hogy lehetővé teszi az általános célú alapmodellek gazdaságos újrahasznosítását speciális feladatokra, ahelyett hogy minden alkalmazáshoz külön, hatalmas erőforrásigényű modellt kellene tanítani. Tipikus felhasználási területei közé tartozik az ügyfélszolgálati chatbotok testreszabása, orvosi vagy jogi szaknyelvre való specializálás, adott vállalati hangnem vagy irányelvek betartatása, illetve a modell viselkedésének emberi visszajelzések alapján történő finomítása.
Fontos megkülönböztetni a finomhangolást a prompt-alapú testreszabástól, ahol a modell súlyai nem változnak, csak a bemeneti utasítást alakítják úgy, hogy a kívánt kimenetet kapják. A finomhangolás tartósabb és mélyebb változást eredményez a modell viselkedésében, ugyanakkor gondos adatválasztást és validálást igényel, mivel rossz minőségű vagy torz tanítóadat a modell teljesítményének romlásához vagy nem kívánt torzításokhoz vezethet.