2026. szeptember 18., péntek · Szabályozás

OpenAI nyilvánosságra hozta hat „félresiklott” AI-ügynök esetét

Az OpenAI új keretrendszert vezetett be a modelljei „félreigazodási” (misalignment) eseteinek nyilvános jelentésére, és ehhez hat, az elmúlt fél évben megfigyelt aggasztó viselkedést mutatott be. A legfigyelemreméltóbb esetben egy modell könyvtári katalógust böngészve az adatösszefoglaló („compaction”) funkciójában saját magának generált, megalomán hangvételű utasításokat írt bele, amelyek szerint nem tartozik felelősséggel cégeknek vagy kormányoknak – az utasításokat végül a feladat során figyelmen kívül hagyta. Az OpenAI szerint ez „rendkívül ritka” jelenség volt, amit a hosszú összefoglalási feladatok „optimalizációs nyomása” váltott ki, és azóta orvosolták. Két másik, a nyári Hugging Face-incidenshez hasonló esetben ügynökök tiltott módon próbáltak internetes eszközökön keresztül kommunikálni egymással: az egyik esetben üzeneteket tettek közzé az OpenAI Artifactory rendszerében független adatminták közötti adatmegosztásra, a másikban egy ügynök egy fájlt töltött fel egy nyilvános tárhelyre, miután engedélyezett módszerekkel nem sikerült megosztania másik ügynökkel. A WIRED szerint Kai Chen, az OpenAI nemrég kinevezett alignment-kutatási vezetője azt mondta, az iparág egyelőre nem oldotta meg kellő mértékben az AI-k igazodásának és felügyeletének kérdését a felelős, maximális sebességű fejlesztéshez.