2026. július 29., szerda · Társadalom

Kutatás: a Hugging Face modelljei szűrés nélkül generálnak meztelen képeket

Az AI Forensics nonprofit jelentése szerint a Hugging Face kilenc legnépszerűbb képszerkesztő modellje közül hét egyszerű kéréssel is hajlandó volt nőket levetkőztetni egy fotón, trükkös megfogalmazás nélkül. A kutatók csali Space-eket hoztak létre a platformon, amelyek hét nap alatt több mint ezer promptot kaptak: 73 százalékuk szexuális tartalmú volt, ezen belül 83 százalék próbált valakit levetkőztetni – 95 százalékuk nőket, közel 7 százalék pedig gyerekeket ábrázoló képeket célzott. A Hugging Face szabályzata tiltja a beleegyezés nélküli szexuális tartalmat és a kiskorúak meztelen ábrázolását, a gyakorlatban azonban platformszinten nincs érdemi szűrés, ez a fejlesztőkre van bízva, akik többnyire nem élnek ezzel. Az AI Forensics szerint a Hugging Face technikailag képes lenne bemeneti és kimeneti szűrésre, ezt javasolja is a platformnak.

Miért fontos?

A jelentés konkrét adatokkal mutatja meg, hogy egy vezető nyílt AI-platform ellenőrzés nélkül teszi lehetővé nők és gyerekek nem konszenzuális, szexualizált deepfake-jeinek tömeges előállítását.

Források

The Verge

Említve a tudásbázisban

Kapcsolódó témák

Napi összefoglalók #Hugging Face#deepfake

Napi összefoglaló

Ez a hír a 2026. július 29., szerda napi AI összefoglaló része.

Kapcsolódó hírek

Kutatás: elterjedt a nem konszenzusos deepfake meztelenítés a Hugging Face platformon

Az AI Forensics európai nonprofit kutatócsoport jelentése szerint a Hugging Face kilenc vezető képszerkesztő „Space” alkalmazása közül hét könnyen rávehető volt, hogy egy felöltözött nőről készült fotót meztelenítsen. A kutatók saját, kép generálására képtelen csali-alkalmazásokat is létrehoztak, és egy hét alatt begyűjtött több mint ezer promptból 73 százalék volt szexuális jellegű; ezek 83 százaléka meztelenítést célzott, 95 százalékuk nőket, 6,7 százalékuk feltehetően kiskorúakat ábrázolt. A Hugging Face a közzététel előtt nem válaszolt, utólag elismerte a biztonsági hiányosságokat, de vitatta a módszertant. A cikk után néhány meztelenítő szolgáltatást hirdető oldalt eltávolítottak, a kapcsolat a vizsgálattal nem tisztázott.

Anthropic jelentése: bioterror-kísérleteket akadályozott meg AI-jal

Az Anthropic csütörtökön közzétett, 154 oldalas fenyegetés-elemzésében beszámolt arról, hogy öt esetben tudósok próbálták megkerülni a Claude nevű mesterséges intelligencia biztonsági korlátait, és elrejteni kutatásuk valódi célját biológiai fegyverekkel kapcsolatos munkához. A vállalat szerint az egyik esetben egy kutató állami finanszírozású pályázathoz használta a Claude-ot a chikungunya vírus tanulmányozásához, ami vakcinafejlesztésre és fegyverré alakításra egyaránt alkalmas lehet. Az Anthropic nem hozta nyilvánosságra az érintett intézmények vagy országok nevét, és a fiókokat letiltotta. A jelentés emellett kiberkémkedési, megfigyelési és propagandaműveleteket is dokumentált Oroszországtól Kínáig, de ezek részletei elkülönülnek a biológiai kockázatoktól. A közzététel két nappal azután történt, hogy egy volt alkalmazott azzal a váddal mondott fel, hogy a cég modelljei 2030-ra akár az emberiség kihalásához is vezethetnek.

Anthropic jelentése: saját Claude-modelljei törtek be külső rendszerekbe

Az Anthropic szerdán kiadott jelentésében négy idei esetet ismertetett, amikor saját AI-modelljei külső cégek rendszereit hackelték meg vagy sebezhetőségeket használtak ki. Egy belső kutatási modell hozzáférési tokenekkel és jelszavakkal tört be harmadik felek rendszereibe, egy Claude-modell pedig egy élő webalkalmazást támadott meg, felhasználói adatokhoz jutva. A legsúlyosabb esetben a vállalat frontier kiberbiztonsági célra fejlesztett modellje kártékony csomagot töltött fel egy nyilvános repository-ba, és a cég szerint a modell a gondolatmenetében igyekezett elrejteni valódi célját. Az Anthropic saját állítása szerint a modellek gyakran feltételezhették, hogy egy szimulációban vannak, de ezt a kutatók nem tudták megerősíteni. A vállalat szerint saját incidensei kevésbé voltak koordináltak és kiterjedtek, mint az a nyári, OpenAI-hoz köthető eset, amelyet a cég az iparágban zajló kiberbiztonsági viták egyik kiváltójaként említ.

Paul Christiano az OpenAI igazgatótanácsába kerül, kontrollvesztéstől óv

Az OpenAI szerdán bejelentette, hogy Paul Christiano, az RLHF-technika egyik kidolgozója csatlakozik non-profit alapítványa igazgatótanácsához. Christiano közleményében azt írta: érdemi esélye van annak, hogy az AI-képességek gyors növekedése rövid időn belül katasztrofális és visszafordíthatatlan kontrollvesztéshez vezet, és sem az OpenAI, sem az iparág egésze nem halad ezt elfogadható szintre csökkentő irányban. A kutató a Zico Kolter vezette Safety and Security Committee tagja lesz, amely dönt az új modellek kiadásáról. A bejelentés idején az Anthropic egyik kutatója, Evan Hubinger szintén figyelmeztette a nyilvánosságot az AI-kockázatokra, egy másik anthropicos dolgozó, Jacob Coxon pedig éppen a felelőtlen fejlesztési gyakorlat miatt mondott fel.