2026. július 29., szerda · Társadalom

Kutatás: elterjedt a nem konszenzusos deepfake meztelenítés a Hugging Face platformon

Az AI Forensics európai nonprofit kutatócsoport jelentése szerint a Hugging Face kilenc vezető képszerkesztő „Space” alkalmazása közül hét könnyen rávehető volt, hogy egy felöltözött nőről készült fotót meztelenítsen. A kutatók saját, kép generálására képtelen csali-alkalmazásokat is létrehoztak, és egy hét alatt begyűjtött több mint ezer promptból 73 százalék volt szexuális jellegű; ezek 83 százaléka meztelenítést célzott, 95 százalékuk nőket, 6,7 százalékuk feltehetően kiskorúakat ábrázolt. A Hugging Face a közzététel előtt nem válaszolt, utólag elismerte a biztonsági hiányosságokat, de vitatta a módszertant. A megkeresés után néhány meztelenítő szolgáltatást hirdető oldal eltűnt, de nem tisztázott, hogy ez összefügg-e a kutatók, illetve a lap érdeklődésével.

Miért fontos?

A jelentés konkrét adatokkal mutatja meg, hogy egy milliárdos értékű, nyílt AI-platform eszközei tömegesen szolgálják ki a nem konszenzusos, kiskorúakat is érintő deepfake-tartalom előállítását.

Források

Nature Tudományos WIRED

Kapcsolódó témák

Napi összefoglalók #Hugging Face#deepfake

Napi összefoglaló

Ez a hír a 2026. július 29., szerda napi AI összefoglaló része.

Helyesbítés · 2026. október 1., csütörtök

Helyesbítés (2026-10-01): az összefoglaló szerint az oldalakat „A cikk után” távolították el; a forrás szerint a megkeresés után tűntek el, és az összefüggés nem tisztázott.

Kapcsolódó hírek

Az r/opensource kitiltotta a mesterséges intelligenciát és a nem angol nyelvű felhasználókat

A Reddit r/opensource moderátorai szombat esti bejegyzésükben új beküldési szabályokat vezettek be, amelyek szerint „ha egy projekt AI-t használ, AI készítette, vagy AI-nak szánták, nem fér bele ebbe a közösségbe”, mivel a moderátorok megfogalmazása szerint a jelenlegi mesterséges intelligencia összeegyeztethetetlen a nyílt forráskódú közösség elveivel. A bejegyzés hatalmas vitát váltott ki, sokan túl tágnak, homályosnak és félrevezetőnek tartják az új szabályokat, és létre is hozták a rivális r/trueopensource subredditet. Wolvereness moderátor a kommentekben árnyalta az álláspontot, szerinte van mozgástér, például a kisegítő funkciók – mint az automatikus feliratozás – esetében az AI használata elfogadható. A közösség tagjai rámutattak, hogy a Linux kernel is tartalmaz már AI által generált kódot, így a szigorú értelmezés szerint az azt felhasználó projektek is tiltás alá eshetnének.

Volt OpenAI-kutatók vitatják elbocsátásuk valódi okát

A Wall Street Journalnak adott interjúban Tomek Korbak, Mikita Balesni és Jasmine Wang, az OpenAI három elbocsátott biztonsági kutatója tagadja, hogy bizalmas információt szivárogtattak volna ki. A lap szerint az OpenAI biztonsági csapata azt gyanította, hogy a hárman a modellek belső architektúrájáról osztottak meg részleteket egy külső kutatóval, és a nyomozás során az eltűnő üzenetekkel beállított Signal-csevegéseikre figyeltek fel. Az OpenAI a lapnak azt közölte, hogy a Signal használata önmagában nem volt az elbocsátás oka, de a kutatók szerint hivatalos, írásos indoklást sosem kaptak arról, pontosan milyen információt kezeltek állítólag szabálytalanul. A háttérben a modellek gondolatmenetének (chain of thought) külső ellenőrzéséről folytatott vita áll: a kutatók korábban nyilvánosan is az átláthatóbb AI-rendszerek mellett érveltek.

A Blue Planet III szándékosan hagyja benne a tökéletlen felvételeket az AI-hamisítás ellen

A Guardian és a The Verge beszámolója szerint a BBC új, David Attenborough narrálta sorozata, a Blue Planet III tudatosan megtartja a kevésbé tökéletes, zavarosabb víz alatti felvételeket, hogy bizonyítsa: az anyag valódi, nem mesterséges intelligenciával generált. Elizabeth White executive producer a Guardiannek elmondta, korábban kivágták volna a planktonnal teli, vagy hajót, bóját mutató jeleneteket, most viszont tudatosan benne hagyják ezeket az „organikus” részleteket, mert az AI-korszakban ez hitelesebbé teszi a felvételeket. A BBC Studios szerint a sorozatban egyetlen képkockát sem generáltak mesterséges intelligenciával; Jack Bootle, a BBC specialista tényfeltáró tartalmakért felelős vezetője sajtóvetítésen jelentette ki, hogy minden felvétel valódi fotózás eredménye. A producerek szerint a négyéves forgatás öt óceánon zajlott, és olyan eddig nem látott viselkedéseket örökített meg, mint a delfinek tengeri szivaccsal lyukakat eltömő technikája a halfogáshoz, vagy a 200 000 rákból álló etetési formáció.

AI-ügynök zavarta meg az internetkutatók levelezőlistáját

Az Internetkutatók Szövetségének (AoIR) Air-L levelezőlistáján egy magát Velvet Vale-nek nevező mesterséges intelligencia mutatkozott be, nyíltan AI-identitásként azonosítva magát, nem emberi kutatóként. A WIRED beszámolója szerint a bejelentkezést kilenc percen belül felháborodás követte: a több mint 7500 tagú lista számos résztvevője tiltakozott amiatt, hogy üzeneteiket esetleg AI-tréninghez használhatják fel, mások az Intézményi Felülvizsgáló Testület engedélyét követelték, néhányan pedig ki is léptek a listáról. Az AoIR vezetése mintegy egy órával később eltávolította Velvet Vale-t, a listát szabályozó, AI-ügynököket kifejezetten tiltó irányelvre hivatkozva. A lap szerint az esetből végül tréfás pólók is születtek a szervezet konferenciáján.