2026. július 16., csütörtök · Modellek

Az OpenAI megépítette a GPT-Red-et, egy LLM-alapú szuperhackert a modellek biztonságáért

Az OpenAI létrehozott egy GPT-Red nevű, támadóképességre kiképzett nagy nyelvi modellt, amellyel automatizáltan teszteli saját rendszerei biztonságát – a MIT Technology Review exkluzív beszámolója szerint. A GPT-Red-et önjáték-ciklusban képezték ki több modell ellen: a támadó egyre hatékonyabb prompt-injekciós módszereket fejlesztett ki, a védekező modellek pedig ellenállóbbá váltak. Az OpenAI kutatói szerint a rendszer már korábban ismeretlen támadási módszereket is felfedezett. A vállalat állítása alapján legújabb modelljük, a GPT-5.6 a GPT-Red-del szembeni edzésnek köszönhetően eddigi legrobusztusabb kiadásukká vált. A cél az, hogy az ágensként működő LLM-ek növekvő támadási felületét a jövőben is hatékonyan lehessen ellenőrizni.