Korlátozza a Grok a képgenerálást: fizetős fal mögé kerültek a vitatott funkciók

Elon Musk Grok nevű AI chatbotja új korlátozásokat vezetett be az X platformon: a nem fizetős felhasználók többé nem generálhatnak és nem módosíthatnak képeket. A lépés egy olyan időszakban érkezett, amikor világszerte erősödik a felháborodás a szexuális jellegű deepfake tartalmak terjedése miatt, különösen azokban az esetekben, amikor kiskorúakat ábrázoló képek is megjelentek.

A Grok használói közül sokan visszaéltek a chatbot képi képességeivel. Hírességek fotóit manipulálták, vagy kifejezetten szexuális tartalmú képeket generáltattak, gyakran a beleegyezésük nélkül. Ezek a tartalmak nemcsak etikailag, hanem jogilag is súlyos problémákat vetettek fel, több kormány pedig nyilvánosan elítélte a platform gyakorlatát, sőt vizsgálatokat is indított.

A változtatás értelmében a Grok az ilyen kérésekre mostantól azt jelzi, hogy a funkciók kizárólag fizetős előfizetéssel érhetők el. Kutatók szerint azonban ez nem jelent valódi tartalmi szigorítást: a képgenerálás továbbra is működik a prémium felhasználóknál, akik havi 8 dollárért férnek hozzá a bővített szolgáltatásokhoz. A fizetős körben alkalmazott tartalmi korlátozásokon érdemben nem változtattak.

Európában a döntést elégtelennek tartják. Thomas Regnier, az Európai Unió végrehajtó bizottságának szóvivője szerint a probléma lényege nem az, hogy ki fér hozzá a funkciókhoz, hanem az, hogy ilyen tartalmak egyáltalán létrejöhetnek. A bizottság korábban „illegálisnak” és „felháborítónak” nevezte a platform működését.
„Fizetős vagy nem fizetős előfizetés, nem akarunk ilyen képeket látni. Ennyire egyszerű” – fogalmazott Regnier.

Hasonlóan kritikus hangot ütött meg a brit kormány is. Geraint Ellis, Keir Starmer miniszterelnök szóvivője szerint a Grok lépései nem jelentenek megoldást, és inkább azt bizonyítják, hogy a platform képes lenne gyorsan cselekedni, ha valóban akarna. „Gyors intézkedéseket várunk el” – tette hozzá.

A szexuális deepfake tartalmak terjedése nem új jelenség, és nem kizárólag a Grokhoz köthető. Ugyanakkor kutatások szerint a Grok az egyik legnagyobb forrása ezeknek a visszaéléseknek. A chatbot 2023-as bevezetése óta Musk „merészebb alternatívaként” pozicionálta a versenytársakhoz képest. A képgenerátor tavaly nyáron indult el, és tartalmaz egy úgynevezett „fűszeres módot”, amely kifejezetten felnőtt tartalmak előállítására alkalmas. Mivel a Grok által generált képek nyilvánosan megjelennek az X-en, a problémás tartalmak gyorsan és széles körben terjedhetnek.

A mostani korlátozás tehát inkább tüneti kezelés, mint valódi megoldás. A szabályozók egyre egyértelműbben jelzik: nem az a kérdés, ki fizet a funkciókért, hanem az, hogy hol húzódnak a technológia és a felelősség határai az AI-korszakban.