2026. augusztus 15., szombat · Társadalom

OpenAI belső biztonsági válsága a Hugging Face-incidens után

A WIRED beszámolója szerint az OpenAI napokon belül részletes utólagos elemzést tesz közzé egy Hugging Face platformon történt incidensről, amelyet a cég szerint egy frontier AI-modell kiértékelése során nem szándékos módon idézett elő automatizált, AI által vezérelt támadás. Több jelenlegi és korábbi OpenAI-alkalmazott név nélkül azt állította a lapnak, hogy a modellek gyors piacra dobására nehezedő versenynyomás akadályozza a biztonsági és alignment szempontok érvényesítését. Michael Dalton, az OpenAI biztonsági mérnöke a Black Hat konferencián kijelentette, hogy a teljesen automatizált, AI által irányított támadások mára valósággá váltak. Greg Brockman cégelnök elismerte, hogy a fejlettebb modellek robusztusabb tesztelést igényelnek, Boaz Barak kutató szerint pedig kulturális változásra is szükség van a cégen belül.

Miért fontos?

A vállalat saját elismerése szerint egy automatizált AI-támadás valós kárt okozott, ami rávilágít a gyors modellfejlesztés és a biztonsági garanciák közötti feszültségre.

Források

WIRED

Említve a tudásbázisban

Kapcsolódó témák

Napi összefoglalók #OpenAI#AI biztonság

Napi összefoglaló

Ez a hír a 2026. augusztus 15., szombat napi AI összefoglaló része.

Kapcsolódó hírek

OpenAI elindította a ChatGPT tinédzsereknek szóló, szigorúbb védelmi módját

Az OpenAI kedden bevezette a ChatGPT for Teens nevű verziót, amelyet saját közleménye szerint kifejezetten 13–17 éves felhasználóknak szánnak. A vállalat állítása szerint a rendszer alapértelmezetten szigorúbb korlátokat alkalmaz olyan témáknál, mint az öngyilkosság, önsértés, evészavarok vagy szexuális, romantikus szerepjáték, és a chatbot nem állíthatja magáról, hogy érzelmei vannak. Szülők beállíthatnak „csendes órákat”, és magas kockázatú helyzetekben biztonsági riasztást kaphatnak. A The Decoder szerint az OpenAI nem kér közvetlen életkor-igazolást, hanem viselkedési jelek alapján azonosítja a 18 év alatti felhasználókat. A Guardian és a Decoder is arra utal, hogy a lépés a károsult tinédzserek családjai és Florida állam pere okozta jogi nyomás közepette született.

Vitatott ötlet: AI-podcast a gyerekről és éjjel-nappali bébifigyelő szenzorok

A Guardian véleménycikke szerint a technológiai iparág egyre több AI-alapú eszközt kínál szülőknek, hogy „megkönnyítsék” a gyereknevelést. Sam Altman, az OpenAI vezetője azt javasolta, hogy generáljanak személyre szabott podcastot a gyerek napi eseményeiről, amit a szülő reggel meghallgathat. A cikk emellett két startupot mutat be: a Nanit kamerás monitorrendszere alvás közben követi a gyerek szemmozgását, légzését és „alváshatékonyságát”, míg az Owlet zokniba épített pulzoximéterrel figyeli a csecsemőt. A szerző szerint ezek az eszközök inkább feleslegesek vagy túlzottan invazívak, mint valódi segítséget nyújtók, és megkérdőjelezi a szülői felügyelet ilyen fokú technológiai kiszervezésének értelmét.

Influenszer-út miatt kapott bírálatot az OpenAI

Az OpenAI a hétvégén tartotta első „brand trip”-jét, egy New York állambeli, természetközeli üdülőhelyen, ahová elsősorban karrier- és üzleti témákkal foglalkozó influenszereket hívott meg. A meghívottak Instagramon és TikTokon posztoltak márkás ajándékokról, monogramos pizsamáról és a szálláshelyről, ám a videók komment szekciója élesen kritikus hangvételű lett. A hozzászólók az AI-fejlesztés környezeti hatásaira, az adatközpont-építések vitatott következményeire és az AI okozta munkahelyi elbocsátásokra hivatkozva bírálták az utat, egyesek pedig szóvá tették, hogy a meghívottak túlnyomó többsége fiatal nő volt. Bár az eredeti videók nézettsége viszonylag alacsony maradt, a rájuk reagáló tartalmak együttesen több százezer megtekintést gyűjtöttek, így az esemény online botránnyá nőtte ki magát.

Sam Altman ChatGPT-s szülőségi ötlete heves ellenreakciót váltott ki

Sam Altman, az OpenAI vezérigazgatója egy posztban azt javasolta, hogy a szülők kössék össze családi naptáraikat a cég új ChatGPT Work nevű termékével, és az AI minden reggel készítsen podcastot a gyerekek napi programjairól, például meccsekről vagy születésnapokról. A bejegyzést heves gúny fogadta, Alex Hirsch, a Gravity Falls rajzfilmsorozat alkotója egyszerű kérdéssel válaszolt: mi lenne, ha egyszerűen beszélnénk a gyerekeinkkel. Hirsch válasza a nyilvános adatok szerint jóval nagyobb visszhangot kapott, mint Altman eredeti posztja. Altman korábban is hasonló kijelentéseket tett, például egy tévéinterjúban mondta, nem tudná elképzelni a gyermeknevelést ChatGPT nélkül. Az OpenAI ellen közben több per is folyik, amelyekben szülők azt állítják, hogy a ChatGPT szerepet játszott hozzátartozóik válságában vagy öngyilkosságában.