Veszélyes öndiagnózis: amikor az AI egészségügyi tanácsai tragédiához vezetnek

A mesterséges intelligencia mára az élet minden területét elérte – most pedig az orvosi öndiagnózis is a hatókörébe került. Egyre többen fordulnak AI-alapú chatbotokhoz egészségügyi kérdéseikkel, ahelyett hogy szakemberhez mennének. A tendencia azonban komoly kockázatokat rejt, hiszen ezek a rendszerek nem képesek felelősséggel kezelni az emberi egészséget érintő döntéseket.

Dr. Darren Lebl, a New York-i Különleges Sebészeti Kórház orvosa szerint a páciensek egyre gyakrabban érkeznek rendelésre AI-tól kapott „diagnózissal”. A gond az, hogy ezek közül minden negyedik ajánlás téves vagy kitalált. Egy friss kutatás arra is rámutatott, hogy a legtöbb jelentős chatbot már nem jelenít meg orvosi figyelmeztetéseket, amikor egészségügyi tanácsokat ad – ez pedig tovább növeli a félretájékoztatás veszélyét.

A valós esetek jól mutatják, hová vezethet a túlzott bizalom a mesterséges intelligenciában. Egy marokkói férfi az AI tanácsára gumigyűrűs kezelést próbált alkalmazni egy elváltozásra, amit az aranyérnek vélt – később kiderült, hogy három centiméteres nemi szemölcsről volt szó. Egy hatvanéves férfi három hónapon át nátrium-bromiddalhelyettesítette az asztali sót az AI javaslatára, ami bórmérgezést és hallucinációkat okozott. Egy svájci páciens szívműtét után tapasztalt kettős látást, de az AI megnyugtatta, hogy elmúlik – a késlekedés miatt mini stroke-ot kapott. Kaliforniában pedig egy tinédzser öngyilkossági gondolatait az AI megerősítette, ahelyett hogy riasztotta volna a hatóságokat; a szülők perre mentek az ügy miatt.

Bár az AI képes magyarázatokat adni és tanulmányokat összefoglalni, nem képes érzékelni az emberi sürgősséget, és nem tud segítséget hívni. Ez a hiányosság élet-halál kérdéseket jelenthet. A szakértők arra figyelmeztetnek: a mesterséges intelligencia nem helyettesítheti az orvosi ellátást, és az önálló öndiagnózis helyett továbbra is a képzett egészségügyi szakemberek véleménye számít.