Koncert maradt el Kanadában egy téves AI-vád miatt

Egy különösen kellemetlen és tanulságos eset rázta meg a kanadai zenei életet: Ashley MacIsaac Juno-díjas hegedűművész és dalszerző koncertjét lemondták, miután egy mesterséges intelligencia által generált Google-összefoglaló tévesen szexuális bűnelkövetőként tüntette fel őt. A zenész december 19-én lépett volna fel Új-Skóciában, a Sipekne’katik Első Nemzet területén, ám a fellépés végül elmaradt.

A problémát az okozta, hogy a helyszínen dolgozók az interneten olyan információval találkoztak, amely szerint MacIsaac több bűncselekményért, köztük szexuális erőszakért is elítélt személy. A valóságban mindez nem igaz, a zenész szerint a mesterséges intelligencia egyszerűen összekeverte őt egy másik, azonos nevű, Kanadában élő férfival.

MacIsaac a The Canadian Pressnek nyilatkozva rágalmazásról beszélt. Elmondása szerint nem elsősorban saját maga miatt aggódik, hanem azért, mert ez a fajta téves információ valós veszélyeket hordozhat. Úgy fogalmazott, hogy akár külföldi utazás során is komoly következményei lehettek volna a hibának, például határellenőrzéskor. „Ha egy ügyvéd vállalja az ügyet, kiállok, mert nem én vagyok az első, és biztosan nem én leszek az utolsó” – mondta.

A zenész szerint az eset rávilágít arra, mennyire sérülékeny az a rendszer, amelyben automatikusan generált összefoglalók formálják az emberek véleményét, gyakran ellenőrzés nélkül. Egyetlen téves állítás elegendő lehet ahhoz, hogy egy előadó munkája, hírneve és biztonsága is veszélybe kerüljön.

A Google kanadai szóvivője, Wendy Manton az ügy kapcsán elmondta, hogy az AI által készített összefoglalók folyamatosan változnak, és céljuk a „leghasznosabb” információk megjelenítése. Hozzátette: amikor a rendszer félreértelmez tartalmat vagy elveszíti a kontextust, az ilyen eseteket felhasználják a fejlesztésekhez, és szükség esetén lépéseket tesznek a belső szabályzat alapján.

A Sipekne’katik Első Nemzet közössége időközben bocsánatot kért MacIsaactól, hangsúlyozva, hogy nagyra értékelik művészi munkáját és a megbékélés iránti elkötelezettségét. A zenész bízik benne, hogy a koncertet később újra tudják ütemezni, miközben több ügyvédi iroda is megkereste őt az eset jogi vonatkozásai miatt.

MacIsaac az egész helyzetet emberileg is nehezen élte meg. Elmondása szerint éppen a nagymamájához készült karácsonyra, amikor szembesült a történtekkel. „Ez egyáltalán nem kellemes beszélgetés” – fogalmazott. Az ügy ugyanakkor túlmutat egy elmaradt koncerten: éles figyelmeztetés arra, milyen következményekkel járhat, ha a technológia téved, és nincs mögötte azonnali emberi kontroll.