AI-fogalom · Kutatás
Hallucináció (AI hallucination)
Amikor egy mesterséges intelligencia magabiztosan, de valótlan vagy kitalált információt állít tényként.
Más néven: AI-hallucináció, modellhallucináció, konfabuláció, fabrikáció, tényszerűtlen generálás
Hallucinációnak nevezzük azt a jelenséget, amikor egy generatív AI-modell, jellemzően egy nagy nyelvi modell, olyan állítást, tényt, hivatkozást vagy adatot ad meg, amely nem felel meg a valóságnak vagy nem támasztható alá forrással, miközben a válasz nyelvtanilag helyes és magabiztos hangvételű. A kifejezés az emberi észlelési hallucinációtól kölcsönzött metafora, hiszen a modell nem tudatosan hazudik, hanem a tanult mintázatok alapján statisztikailag valószínű, de ténylegesen téves szöveget generál.
A jelenség gyökere abban rejlik, hogy a nyelvi modellek nem tényadatbázisként működnek, hanem szóláncok valószínűségi folytatását tanulják meg hatalmas szövegkorpuszokból. Amikor a modell olyan kérdéssel találkozik, amelyre nincs pontos tudása, vagy a betanító adatok hiányosak, ellentmondásosak, esetleg elavultak, a rendszer nem feltétlenül ismeri fel saját bizonytalanságát, hanem folytatja a szöveget a legvalószínűbbnek tűnő minta szerint, akár teljesen kitalált nevekkel, dátumokkal, forrásokkal vagy idézetekkel is.
A hallucináció komoly kockázatot jelent olyan területeken, ahol a pontosság kritikus, például jogi, orvosi vagy oktatási alkalmazásokban, mivel a felhasználók hajlamosak megbízni a folyékony és magabiztos megfogalmazásban. A probléma csökkentésére több módszert alkalmaznak, például a válaszokat külső, ellenőrzött forrásokhoz kötő technikákat, mint amilyen a retrieval-augmented generation, vagy az emberi visszajelzésen alapuló finomhangolást, amely arra tanítja a modellt, hogy bizonytalanság esetén jelezze tudása korlátait ahelyett, hogy kitalált választ adna.
A hallucináció napjaink egyik legaktívabban kutatott AI-problémája, mivel közvetlenül befolyásolja a mesterséges intelligenciába vetett bizalmat és a rendszerek biztonságos, felelős bevezethetőségét a mindennapi és szakmai alkalmazásokban.