TikTokos deepfake-csalások szaporodnak: Taylor Swiftet és Rihannát hamis programokra „beszéltetik”

TikTok -on terjednek az AI-generated deepfake videók, amelyekben hírességek – többek között Taylor Swift , Rihanna és Kim Kardashian – arcával és hangjával csábítják a felhasználókat hamis jutalomrendszerekre és más „ malicious services. ” oldalakra. A klipek gyakran vörös szőnyeges interjúkból, podcastokból vagy talkshow-részletekből kivágott felvételekre épülnek, amelyeket AI -jal manipulálnak, és élethűnek ható szintetikus hanggal társítanak. A hamisítások sokszor ügyetlenek – természetellenes arcmimikával és csúszó szinkronnal –, mégis elég meggyőzőek ahhoz, hogy kattintásra bírják a gyanútlan nézőket. A csalók TikTok -arculati elemeket és texturált filtereket is használnak, vélhetően az AI -észlelő rendszerek kijátszására. A klipre kattintva a felhasználók külső oldalakra jutnak, ahol személyes adataikat kérik el. A Copyleaks szerint nemcsak átverős reklámok bukkannak fel: megjelentek túlszexualizált hirdetések is, amelyek hozzájárulás nélküli arccsere-projektekre vagy digitális „ undressing. ” szolgáltatásokra terelnek. Konkrét példák között szerepel egy manipulált Taylor Swift-videó, amely egy úgynevezett „ TikTok Pay ” funkciót promóz, illetve egy Rihanna-klip, amely nézettségért járó jutalomprogramot hirdet. A jelenség különösen kényes időzítéssel érkezett: Taylor Swift nemrég védjegybejelentéseket adott be a hangja és a képmása AI -os visszaélések elleni védelmére, miután több deepfake-incidens is érintette. A probléma túlmutat a platformon. A Meta ellen nemrég csoportos kereset indult a Consumer Federation of America nevében, azt állítva, hogy a vállalat profitált a Facebookon terjedő, a mostani TikTok-hirdetésekhez hasonló csalós hirdetésekből. Az amerikai FTC is jelezte: a megtévesztő reklámok továbbra is a közösségi médiában terjedő vásárlási csalások egyik fő csatornáját jelentik, és az AI csak gyorsítja a terjedésüket. TikTok Photo Credit : Rihanna for Fenty Beauty / CC by 3.0 Online