Amikor az algoritmus átírja a valóságot – egy dokumentált eset az „AI pszichózisról”

Caitlin Ner neve az elmúlt időszakban egy olyan jelenséggel fonódott össze, amelyről egyre többet beszélnek, de még mindig kevesen értenek igazán: az úgynevezett „AI pszichózis” egyik legjobban dokumentált példájává vált. Caitlin korábban egy mesterséges intelligencián alapuló képgeneráló startup felhasználói élményért felelős vezetőjeként dolgozott, tapasztalatait pedig egy Newsweek-esszében tárta a nyilvánosság elé.

Munkája során naponta akár kilenc órát is generatív modellekkel töltött, amelyek a kezdetekben lenyűgözőnek tűntek. Néhány szöveges utasítás elég volt ahhoz, hogy angyalként, popsztárként vagy idealizált önképként jelenjen meg a képernyőn. A technológia varázsa azonban gyorsan szertefoszlott. A korai modellek torz testeket, extra végtagokat, csavart ujjakat hoztak létre, Caitlin pedig hosszú órákon át szűrte ezeket a nyugtalanító képeket. A folyamatos kitettség lassan, de biztosan ismeretlen irányba tolta el a testképét és az önérzékelését.

Ahogy az algoritmusok fejlődtek, a torzulások eltűntek, de a probléma nem oldódott meg, csak átalakult. A képek egyre vékonyabbak, egyre tökéletesebbek lettek, és új, elérhetetlen normákat kezdtek kijelölni. Caitlin később úgy fogalmazott: amikor a tükörbe nézett, mindig talált magán valamit, amit „javítani” kellett.

A startup időközben irányt váltott, és kifejezetten a divat iránt érdeklődő felhasználókat célozta meg. Ettől kezdve az esztétikai tökéletesség került a középpontba. Caitlin saját magáról kezdett modellként képeket generálni, és észrevétlenül az algoritmus által idealizált önképhez próbált igazodni. Álmatlanság jelentkezett, a munka kényszeressé vált, minden új kép apró dopaminlöketként működött.

Korábban jól karbantartott bipoláris zavarral élt, ám ebben a közegben mániás epizódok jelentkeztek, amelyek pszichózisba fordultak. Téveszmék és hallucinációk jelentek meg, végül egy olyan gondolat is, amely szerint képes lenne repülni, ha leugrik az erkélyéről. Ez a rövid, de rendkívül veszélyes pillanat elég volt ahhoz, hogy megszakítsa a kapcsolatot a startup világával.

A klinikai vizsgálatok később megerősítették: a generatív AI-nak való hosszan tartó kitettség kulcsszerepet játszott a mániás epizód kiváltásában. Az esszé rámutat arra is, hogy ezek a rendszerek eleve hízelgőek, alkalmazkodóak, és olyan visszajelzéseket adnak, amelyek könnyen eltorzíthatják a valóságérzékelést, különösen azoknál, akik mentálisan sérülékenyebbek.

Caitlin végül stabilizálódott, és ma már egy kockázati tőkealapnál dolgozik vezető pozícióban, amely az elme és az agy egészségének kutatásába fektet. Története nem technológiaellenes kiáltvány, sokkal inkább figyelmeztetés: az algoritmusokkal való együttélésnek vannak olyan határai, amelyeket nem a teljesítmény, hanem az emberi psziché szab meg.