2026. július 21., kedd · Kutatás

Az AI a toborzásban az embereknél is hajlamosabb sztereotípiák kialakítására – új kutatás

A Princeton Egyetem és a Chicagói Egyetem kutatói szimulált felvételi kísérletben vizsgálták, hogyan alakítanak ki sztereotípiákat a nagy nyelvi modellek. A ChatGPT-t, a Claude-ot és a Geminit is magában foglaló tesztben a modellek fiktív etnikai csoportokba tartozó jelölteket értékeltek negyven körön át, miközben minden jelölt valójában azonos eséllyel teljesített sikeresen. Az eredmények szerint a modellek a korai tapasztalatok alapján gyorsan elkezdték szegregálni a jelölteket, és a kutatók szegregációs skáláján mintegy 65 százalékkal magasabb értéket értek el az emberi résztvevőknél – az OpenAI o3 modellje közel a maximális szintet produkálta. A kutatók szerint az LLM-ek különösen hajlamosak kevés adatból általánosítani, ami az ágens-alapú, felhasználói részleteket megjegyző modellek terjedésével fokozott kockázatot jelent a munkaerő-felvételi döntésekben.

Miért fontos?

A kutatás rámutat, hogy az AI-toborzóeszközök nemcsak átvesznek, hanem önállóan is létrehozhatnak elfogultságokat, ami milliók álláslehetőségeit érintheti.

Források

MIT Technology Review

Kapcsolódó témák

Napi összefoglaló

Ez a hír a 2026. július 21., kedd napi AI összefoglaló része.

Kapcsolódó hírek

A Google DeepMind GenCeption rendszere videógenerátorból csinál univerzális látómodellt

A Google DeepMind kutatói kifejlesztették a GenCeption nevű rendszert, amely az Alibaba nyílt forráskódú Wan2.1 videómodelljét klasszikus számítógépes látási feladatokra – mélységbecslésre, szegmentálásra és 3D-s pózbecslésre – használja egyetlen előrecsatolt lépésben. A modell kis mennyiségű szintetikus videón tanult, mégis felveszi a versenyt specializált modellekkel, és valós felvételekre, valamint korábban nem látott kategóriákra is általánosít. A szerzők szerint ez a vitatott elképzelést támasztja alá, miszerint a videógenerátorok univerzális világmodellként szolgálhatnak. A tanulmány nem lektorált, eredményeit független szakértői vizsgálat még nem erősítette meg.

Az AI-chatbotok veszélyesen magabiztosak a röntgendiagnózisban, még akkor is, ha tévednek

A RadLE 2.0 nevű benchmark 200 radiológiai eseten 16 mesterségesintelligencia-modellt tesztelt, és az eredményeket tapasztalt radiológusok teljesítményéhez hasonlította. Az Ashoka Egyetem CRASH Lab csapata által fejlesztett teszt nemcsak a diagnózis pontosságát, hanem a modell magabiztossági szintjét és a bizonytalanság beismerésének képességét is méri. A humán szakértők 988,7 pontot értek el a maximális 2000-ből, míg a legjobb AI-modell 758-at. A tanulmány szerint egyetlen modell sem győzött minden kategóriában: az Anthropic Claude Fable 5 a megbízhatóságban, a Google Gemini 3 Pro a nyers találati arányban, a Meta Muse Spark 1.1 pedig a saját korlátainak felismerésében teljesített a legjobban. A pontozás bünteti a magabiztos tévedést, mivel az orvoslásban egy hamisan határozott diagnózis sokkal veszélyesebb, mint a bizonytalanság őszinte bevallása.

A kontextus minősége előre jelzi az AI-ágensek megbízhatóságát – kutatás és ipari megoldás

Egy nem lektorált kutatási tanulmány szerint az AI-ágensek hibáinak gyökere jellemzően a kontextusban keresendő: az utasítások, eszközleírások, védőkorlátok és betáplált tudás minősége határozza meg a viselkedést. A szerzők hét kritérium mentén értékelték a kontextusminőséget, és kimutatták, hogy az egyes szempontok szisztematikusan előrejelzik a hallucinációval szembeni ellenállást vagy az utasításkövetést. Eközben a Pinecone piacra dobta Nexus nevű tudásmotorját, amely a vállalati kontextust strukturált rétegbe rendezi. A cég állítása szerint a korai felhasználók a jogi szektorban jelentős pontosságjavulást és kilenc-tizenötszörös tokenköltség-csökkenést tapasztaltak a hagyományos RAG-rendszerekhez képest.

A nyílt súlyú AI-modellek kiberképességei már csak hónapokkal maradnak el a zárt rendszerektől

A brit AI Biztonsági Intézet (AISI) első nyilvános elemzése szerint a nyílt súlyú AI-modellek kiberképességekben már csak négy-hét hónappal maradnak el a vezető zárt rendszerektől, míg 2025 nagy részében ez hat-tíz hónap volt. Az AISI tesztjei alapján a GLM-5.2 és a DeepSeek V4-Pro konkrét kibertámadási feladatokban és szimulált hálózati gyakorlatokon elérték a korábbi zárt modellek szintjét, lényegesen olcsóbb futtatás mellett. Az intézet figyelmeztet, hogy a nyílt modellek biztonsági korlátai könnyen megkerülhetők, mivel bárki letöltheti és felügyelet nélkül módosíthatja őket – ezt tartós és visszafordíthatatlan visszaélési kockázatnak nevezi. Az elemzés ugyanakkor elismeri a nyílt modellek előnyeit is, és a kockázatok kiegyensúlyozott mérlegelését szorgalmazza.