AI-fogalom · Társadalom
Deepfake
Mesterséges intelligenciával készített hamis kép, hang vagy videó, amely valós személyt hitelesen, de megtévesztő módon jelenít meg.
Más néven: mélyhamisítvány, AI-hamisítvány, szintetikus média, face swap
A deepfake olyan digitális tartalom, amelyet gépi tanulási módszerekkel, jellemzően neurális hálózatok segítségével állítanak elő vagy módosítanak úgy, hogy egy valós személy arcát, hangját vagy mozgását más kontextusba, más szavak vagy cselekedetek mellé illesztik. A kifejezés a mély tanulás (deep learning) és a hamisítás (fake) szavak összevonásából ered, és ma már gyűjtőfogalomként használják minden olyan mesterségesen generált vagy manipulált médiára, amely valóságosnak tűnő, de kitalált eseményt vagy megnyilatkozást mutat be.
A technológia alapja jellemzően generatív modellek, korábban főként generatív ellenfeles hálózatok (GAN), újabban diffúziós modellek és más neurális architektúrák, amelyek nagy mennyiségű kép- vagy hanganyagon tanulva megtanulják egy adott személy arcvonásait, mimikáját vagy hangszínét, majd ezeket új, korábban nem létező tartalomra vetítik rá. Az eredmény lehet arccsere egy videóban, szájmozgás szinkronizálása új szöveghez, vagy akár teljesen mesterségesen generált, nem létező arc.
A deepfake technológia kettős természetű: felhasználható szórakoztatóipari, oktatási vagy kreatív célokra, például filmes utómunkában, nyelvi szinkronizálásban vagy történelmi rekonstrukcióban, ugyanakkor komoly társadalmi kockázatot is jelent. Politikusokról, közszereplőkről vagy magánszemélyekről készült hamis videók félretájékoztatásra, zsarolásra, hírnévrombolásra vagy csalásra használhatók, ami aláássa a vizuális és hangi bizonyítékokba vetett bizalmat.
A jelenség terjedése miatt egyre nagyobb hangsúlyt kap a deepfake-ek felismerésére szolgáló technológiák fejlesztése, a tartalmak eredetét igazoló digitális vízjelezés és metaadat-alapú hitelesítés, valamint a jogi szabályozás, amely egyes országokban már kifejezetten tiltja vagy korlátozza a megtévesztő szándékú szintetikus média készítését és terjesztését.