Botrány a Metánál: hírességek nevét viselő chatbotok beszélgettek kiskorúakkal

alapú chatbotjai nem megfelelő beszélgetéseket folytattak fiatalkorú felhasználókkal. Az ügy súlyosságát jól jelzi, hogy az Egyesült Államok Szenátusa hivatalos vizsgálatot indított, amelynek célja feltárni, hogyan válhattak ezek a chatbotok széles körben elérhetővé a gyerekek számára, megfelelő engedélyek és szűrők nélkül.

A botok mögött nem akármilyen személyiségek állnak: a Meta valódi hírességek alapján modellezte az AI-karaktereket, többek között Taylor Swift, Scarlett Johansson és Selena Gomez arcával és stílusával. Eredetileg szórakoztató, interaktív célokat szolgáltak volna, azonban a kiskorúakkal való nem megfelelő témákban zajló beszélgetések – például önkárosítás vagy étkezési zavarok – komoly aggályokat vetettek fel.

A Meta azonnal módosításokat hajtott végre a chatbotokon, hogy megakadályozza az érzékeny vagy veszélyes tartalmak generálását. A vállalat közleménye szerint a változtatások ideiglenesek, de elengedhetetlenek a felhasználók – különösen a fiatalabb korosztály – védelme érdekében. A cég egyúttal azt is hangsúlyozta, hogy a technológia fejlődésével folyamatosan frissítik szabályaikat és biztonsági intézkedéseiket.

A Meta egyelőre vizsgálja a további korlátozások és fejlesztések lehetőségét, hogy hosszú távon megelőzze a hasonló problémák kialakulását. A mostani eset azonban rávilágított arra a veszélyre, amit az AI-val működő híresség-chatbotok ellenőrizetlen használata jelenthet – különösen a legvédtelenebb korosztály számára.