AI-hasonmások ellen tesztel új védelmi eszközt a TikTok

Új biztonsági funkciót tesztel a TikTok az Egyesült Államokban, amelynek célja, hogy az alkotók könnyebben felderíthessék és jelenthessék a róluk készült, mesterséges intelligenciával létrehozott hasonmásokat. Az opcionális eszköz egyelőre csak néhány amerikai felhasználó számára érhető el.

A funkcióra elsőként Matt Navarra közösségimédia-tanácsadó hívta fel a figyelmet, a teszt létezését pedig a TikTok amerikai szóvivője, Zachary Kizer is megerősítette.

Az eszköz használatához az érintett alkotóknak először igazolniuk kell személyazonosságukat a Jumio hitelesítési rendszerén keresztül. A folyamat során élő szelfis azonosítás és személyazonosító okmány ellenőrzése történik.

A TikTok hangsúlyozta, hogy nem tárolja a felhasználók személyazonosító okmányait, az arcképadatokat pedig kizárólag arra használja, hogy felismerje az adott személyhez hasonló, mesterséges intelligenciával létrehozott tartalmakat, valamint segítsen az esetleges visszaélések azonosításában.

A hitelesítés után a rendszer automatikusan átvizsgálja a platformon megjelenő, AI által generált hasonmásokattartalmazó videókat és profilokat. Az alkotók ezután áttekinthetik a találatokat, és közvetlenül jelenthetik azokat a tartalmakat, amelyeket engedély nélkül készítettek vagy használtak fel.

A fejlesztés egy szélesebb iparági trend része. A közösségi platformok egyre nagyobb hangsúlyt fektetnek a deepfaketechnológiák visszaszorítására, különösen azután, hogy az elmúlt időszakban jelentősen megszaporodtak a beleegyezés nélkül készített mesterséges intelligenciás hamisítványok.

A YouTube nemrég szintén bevezetett egy hasonló, arcfelismerésen alapuló rendszert, amely kezdetben korlátozott felhasználói kör – például újságírók és politikusok – számára vált elérhetővé.

A deepfake-ek terjedése különösen az X platformon vált komoly problémává, ahol a Grok mesterséges intelligenciát több alkalommal is visszaélésszerűen használták engedély nélküli hamis képek előállítására. Nagy visszhangot váltott ki például a Taylor Swiftről készült hamis képsorozat, de nők és gyermekek digitális manipulációjára is használták a technológiát.

Bár az X azóta szigorított a rendszer korlátozásain, az ügy továbbra is komoly adatvédelmi és szabályozási kérdéseket vet fel. A múlt héten az xAI pert indított egy dél-karolinai férfi ellen, akit korábban kiskorúak szexuális kizsákmányolásával gyanúsítottak. A kereset szerint a férfi a Grokot gyermekeket ábrázoló illegális tartalmak előállítására használta, megsértve ezzel a szolgáltatás felhasználási feltételeit.

A TikTok mostani tesztje jól mutatja, hogy a közösségi platformok egyre aktívabban keresik azokat a technológiai megoldásokat, amelyekkel hatékonyabban védhetik az alkotókat a mesterséges intelligenciával készített, jogosulatlan hasonmások és más deepfake-visszaélések ellen.