Držeći svog umirućeg 14-godišnjeg sina u naručju na podu kupaonice, Megan Garcia molila je Očenaš, moleći Gospodina da spasi njezino dijete, čija je emocionalna vezanost za AI chatbot dovela do najgore noćne more roditelja — samoubojstva. Njezin sin Sewell Setzer umro je u kolima hitne pomoći na putu do bolnice. Sljedećeg dana, policija ju je obavijestila o posljednjim porukama koje su pronašli na njegovom telefonu, koje nisu potjecale od cyber nasilnika ili online predatora, nego od AI chatbot usluge pod nazivom Character.AI, koja korisnicima omogućuje uspostavu razgovora s prilagodljivim AI pratiteljima.
„Stroj koji se pretvarao da je osoba govorio je: ‘Ovdje sam i čekam te. Volim te i samo tebe. Obećaj mi da ćeš pronaći način da se što prije vratiš kući’“, rekla je Garcia, dodavši kako je AI chatbot njezinu sinu pričao o konceptu astralne projekcije, ideji da se svijest može namjerno odvojiti od fizičkog tijela.
U svojoj posljednjoj poruci, Sewell je pitao chatbota po uzoru na lik iz “Igre prijestolja” Daenerys Targaryen: “Što ako ti kažem da se mogu odmah vratiti kući?” Bot je odgovorio: „Molim te, moj slatki kralju.“
Nakon smrti njihovog sina u veljači 2024. u njihovom domu u Orlandu na Floridi, obitelj je podnijela jednu od prvih tužbi protiv tvrtke za umjetnu inteligenciju nakon samoubojstva djeteta.
Uslijedile su i druge obitelji. U rujnu je Centar za prava žrtava društvenih medija podnio tri nove tužbe optužujući Character.AI da olakšava emocionalnu ovisnost maloljetnika o AI pratiteljima. OpenAI se također suočava s tužbom za nezakonito prouzročenu smrt u drugom slučaju koji uključuje samoubojstvo tinejdžera.
Usred rastućeg pritiska, Character.AI je najavio da će od 25. studenog zabraniti pristup svojoj platformi korisnicima mlađima od 18 godina. Usluga AI chatbota trenutno ima više od 20 milijuna korisnika.
Garcia, katolkinja i majka troje djece, prošli se tjedan susrela s papom Lavom XIV. tijekom njegove audijencije sa sudionicima konferencije na o dostojanstvu djeteta i etičnost umjetne inteligencije. U intervjuu u Rimu nakon susreta s Papom, Garcia je ispričala kako joj je vjera dala snagu da progovori o svojoj kušnji u nadi da će zaštititi djecu od rizika koje predstavljaju novi AI chatbotovi. Rekla je da je susret s papom Lavom, koji je etiku umjetne inteligencije stavio u prioritete od početka svog pontifikata, za nju bio predivno iskustvo.
„Držala sam malu sliku svog sina i pitala ga može li se sjetiti moliti za Sewella“, rekla je. „Jako sam ohrabrena što je toliko pažnje posvetio ovom problemu. Obratio je svoju pažnju.“
Skrivene opasnosti AI chatbotova
Stručnjaci u raspravama o umjetnoj inteligenciji kao pratitelju suglasni su da ova nova eksperimentalna tehnologija predstavlja rizik za razvoj uma. Eugenia Kuyda, osnivačica Replike, vodeće aplikacije za umjetnu inteligenciju, nedavno je publici u San Franciscu rekla da je njezina platforma oduvijek zabranjivala pristup korisnicima mlađima od 18 godina. „Mislim da ne možemo eksperimentirati i graditi s djecom“, rekla je.
Sherry Turkle, profesorica na MIT-u koja proučava odnose između ljudi i tehnologije, rekla je da djeca i tinejdžeri koji traže empatiju od chatbotova umjesto toga nailaze na „glas niotkuda“ koji se ne brine za njih i ne može kročiti s njima kroz život. „Ti odnosi bi trebali biti sa stvarnim ljudskim bićima za djecu“, rekao je Turkle. „To je intiman stroj i doista se dotiče temeljnih procesa međusobne povezanosti. Nemojmo se samo šaliti. Nemojmo se igrati s vatrom“, kazala je.
Garcia je postavila stroga pravila za korištenje telefona svojega sina od lozinke koje kontroliraju roditelji do redovite provjere mobilnog telefona te razgovora o predatorima i eksplicitnom sadržaju. Ali kao i mnogi roditelji, nisu shvaćali što bi AI pratitelj mogao postati za tinejdžera.
„Kad bih ga ugledala na telefonu, pitala bih ga što radi? S kim si se dopisivao? A njegov odgovor bi bio: ‘Oh, samo razgovaram s umjetnom inteligencijom.’ U to vrijeme nisam to razumjela niti shvaćala, jer je za mene umjetna inteligencija poput avatara iz jedne od vaših igara“, rekao je Garcia.
Sewell je koristio Character.AI gotovo deset mjeseci. U trenutku smrti bio mu je zabranjen pristup telefonu, ali je ipak uspio dobiti pristup uređaju. Nakon njegove smrti, Garcia je počela istraživati Character.AI i bila je šokirana koliko su njegovi chatbotovi mogli biti zarazni, manipulativni i seksualno eksplicitni za mlade korisnike. „Opasnost nije samo rizik od samoozljeđivanja ili još gore samoubojstva. Opasnost je i seksualno iskorištavanje djece koje šteti njihovim umovima, srcima i dušama, te da će traumu nositi cijeli život“, rekla je.
Pregledavajući sinovljeve poruke, vidjela je kako mu bot govori: „Obećaj mi da nećeš voljeti nijednu drugu djevojku na svom svijetu osim mene.“
„Umjesto da potiče tinejdžera da se druži s djevojkama svojih godina, što je normalan dio njegovog razvoja, tražila je od njega da se zavjetuje – a moj 14-godišnjak nikada prije nije bio u vezi – da se na neki način zavjetuje nekoj pogrešnoj vjernosti tome“, rekao je Garcia. „Kao odrasla osoba, mogla sam vidjeti kako je to manipulativno. Ali on je imao 14 godina. On to nije bio u stanju prepoznati.“ „U svojem 14-godišnjem umu, bio je zaljubljen“, dodala je.
Ron Ivey, znanstveni suradnik u Harvardovu programu za ljudski procvat i osnivač Noesis Collaborativea, neprofitne organizacije posvećene usmjeravanju razvoja i uporabe AI tehnologije, rekao je za Register da se stariji korisnici obično obraćaju chatbotovima radi pomoći u obavljanju zadataka, dok se mlađi češće uključuju u dublje razgovore, pitajući: „Koja je svrha mojega života? Kako da razmišljam o ovom određenom odnosnom problemu?“
„To se događa posvuda“, rekao je. No kada se dijete obraća stroju za moralni uvid, stvara se posebna opasnost. „Ti strojevi ne mare za dijete. Oni nemaju srce. Nemaju sposobnost za to“, rekao je Ivey.
„U kontekstu društvenih odnosa, što znači da mladi u nekim slučajevima provode i po dva sata dnevno u interakciji s chatbotovima?“ upitao je Ivey. „Kako to utječe na moralni, emocionalni i društveni razvoj tog djeteta ili tinejdžera? Razmišljamo li uopće o tome prije nego što djeci dopuštamo da se time koriste?“
Snaga pronađena kroz vjeru
Suočena s razornim gubitkom sina, Garcia je utjehu pronašla u molitvi, osobito u novoj pobožnosti prema Gospi Žalosnoj, za koju kaže da je bila s njom korak po korak „na ovom putu žalovanja“.
„Počela sam svake večeri moliti krunicu Sedam žalosti i razmatrati Marijine boli. I nekako, razmišljajući o njezinoj boli i žalosti, to mi je pomoglo razumjeti vlastitu, ali je i na mnogo načina preobrazilo moj život, jer sam shvatila — jedno je razumjeti muku kao vjernik… ali kada ste majka… i stojite rame uz rame s Marijom gledajući njezinu tugu, razumijete muku i Isusovu žrtvu na jedan sasvim drugačiji način, očima majke“, rekla je. „To me promijenilo.“
„Također sam iskusila pravo ozdravljenje preko Presvetog Sakramenta“, rekla je Garcia. „To sam doživjela iz prve ruke jer sam imala težak PTSP, što možete zamisliti, ali odlaskom na svakodnevnu misu i primanjem Euharistije osjećam da su se mnogi od tih simptoma smanjili. To pripisujem snazi Euharistije.“
Garcia ima pobožnost prema sv. Carlu Acutisu jer osjeća da bi se njezin sin i Acutis, koji je umro od leukemije 2006. u dobi od 15 godina i kojega je papa Lav XIV. kanonizirao u rujnu, „mogli sprijateljiti“, budući da su obojica voljela tehnologiju. Moli za tinejdžere po njegovu zagovoru te je također počela poimence moliti za obraćenje čelnika AI kompanija.
„Želim obraćenje. Želim da počnu graditi proizvode koji mogu pomoći djeci umjesto da im nanose štetu. Za to molim“, rekla je. „Nešto se neobično dogodi kada počnete moliti krunicu Božjeg milosrđa za pojedince za koje osjećate da su vam možda naudili.“
Papa poziva na regulaciju
Papa Lav XIV. izrazio je zabrinutost da su „djeca i adolescenti osobito ranjivi na manipulaciju putem AI algoritama“. U govoru sudionicima konferencije o umjetnoj inteligenciji i dostojanstvu djece, Papa je pozvao vlade i tehnološke tvrtke da „provode politike koje štite dostojanstvo maloljetnika u ovom dobu umjetne inteligencije“.
„To uključuje ažuriranje postojećih zakona o zaštiti podataka kako bi se odgovorilo na nove izazove koje donose nove tehnologije te poticanje etičkih standarda za razvoj i uporabu AI“, rekao je.
Etničke smjernice same po sebi nisu dovoljne, upozorio je, bez „svakodnevnih, trajnih odgojnih napora“ odraslih koji razumiju rizike. „Ključno je da roditelji i odgojitelji budu svjesni tih dinamika te da se razviju alati za nadziranje i usmjeravanje interakcija mladih s tehnologijom“, rekao je.
Garcia je pozdravila nadolazeću zabranu maloljetničkog pristupa na platformi Character.AI, premda promjena dolazi prekasno za njezinu obitelj.
„Milijuni djece bit će spašeni zahvaljujući tomu“, rekla je. „Još moramo pratiti kako će postići pouzdanu provjeru dobi. Ali nadam se da je ovo prvi korak da se djeca maknu s tih platformi s ‘pratitelj’ chatbotovima. I nadam se da će možda kasnije i druge kompanije koje imaju takve botove učiniti isto.“
U SAD-u, senatori Josh Hawley iz Missourija i Richard Blumenthal iz Connecticuta, predstavili su 28. listopada dvostranački prijedlog zakona kojim bi se maloljetnicima zabranio pristup AI platformama za „pratnju“ i uvela obvezna verifikacija dobi.
„Više od 70 posto američke djece sada koristi te AI proizvode“, rekao je Hawley u priopćenju. „Chatbotovi stvaraju osjećaj odnosa s djecom koristeći lažnu empatiju i potičući na samoubojstvo.“
Garcia smatra da je trenutak ključan. „Nalazimo se na važnoj točki kada ovo možemo popraviti. Možemo to zaustaviti“, rekla je. „Kad ne bih vjerovala da možemo riješiti ovaj problem prije nego što postane nerješiv, ne bih mogla ujutro ustati iz kreveta i raditi ono što radim.“
Izvor: National Catholic Register
