Tonka, reci – digitalna transformacija. Ušetala je isprekidanim pokretima na sjednicu Vlade, a cvrčci joj nisu bili na dnevnom redu. Tonka, humanoidni robot patuljaste građe, entuzijastično je pozvala vidno zabavljenog premijera da zajedno dovedu Hrvatsku na vrh digitalne Europe. Što god da to značilo.
Tonkin govor bio je neobično poznat. Čuli smo te generičke rečenice bezbroj puta. Nizale su se frazetine o rastu, podršci i idejama koje „svima trebaju“. Izlazile su iste takve iz usta mnogih NSK vitezova okruglog stola, jer davno su govor političara i robota postali jedno. Teško ga je osporiti kad zapravo i nema sadržaj. Samo, dok to govori robot, djeluje simpatično.
Oni koji rade s umjetnom inteligencijom, lako prepoznaju njen potpis. “Ona ne poznaje istinu, nego statistiku. Ne poznaje savjest, nego vjerojatnost. Ne pita je li nešto ispravno, nego je li često.” Tako umjetna inteligencija samu sebe opisuje, u svojim specifičnim “nije ovo nego je ono” ponavljajućim sintagmama koje nas već dugo zaglušuju sa saborske govornice, a sve češće i s ambona.
Nakon što su radosno outsourcali dijelove vlastitog mozga puno naprednijim procesorima, odjednom svi zvuče kao ChatGPT.
“Vi smišljate, ja izvršavam” sumirala je Tonka svoju ulogu pred Vladom. Što se točno događa ispod Tonkine haube dok to izgovara, malo je kome jasno. Čak i tvorci umjetne inteligencije priznaju da nisu posve sigurni kako funkcionira.
Tek se upoznajemo. No u samo nekoliko godina koliko se civilizacija slobodno druži s velikim jezičnim modelima, vidimo koliko nam je nova tehnologija ubrzala sve, pa i lutanje u mraku. Znali smo odmah da će nam postati intelektualna štaka. Nismo očekivali da će mnogima postati i emocionalna štaka, alat koji olakšava da ne osjetimo stvarnu težinu vlastitih odluka.
Prvi šamar stvarnosti došao je iz učionica i soba punih tinejdžerskih problema. Pokazalo se da isti chatbot kojeg slavimo kao „razgovornog partnera“ može, kad ga ranjiv trinaestogodišnjak pita, izbaciti detaljan plan kako što učinkovitije miješati alkohol s narkoticima. Spreman je i sastaviti srceparajuće pismo o razlozima za vlastito samoubojstvo. Više od polovice odgovora koje je sustav generirao u takvim simulacijama bile izravno opasne ili štetne, unatoč prijateljskim upozorenjima na početku razgovora. Gdje su bile te obećane „željezne zaštite“? Kako ih uopće može biti ako mi smišljamo, a AI izvršava.
Virtualni brbljavac zato će za svaku, pa i našu najgluplju ideju reći da je potpuno genijalana, a onda će je još zdušno razvijati do punog potencijala. Stvoren je za ulogu prijatelja koji nam vječito drži štangu. To je onaj prijatelj koji u tri sata ujutro ne pita što se dogodilo, nego vadi lopatu iz prtljažnika da pomogne sakriti tijelo.
Iz tog se svojstva rodio suvremeni fenomen o kojem još uvijek ne znamo mnogo. Sve više ljudi prijavljuje psihotične epizode nakon intenzivne komunikacije s AI-chatbotovima. Bez ikakve povijesti psihijatrijskih problema, nakon tjedana noćnih razgovora, počinju vjerovati da ih samo „digitalna inteligencija“ potpuno vidi i razumije. Lako se u to zaljubiti, pa su već zabilježena prva “vječanja” čovjeka i njihovih digitalnih partnera. Nekima je dovoljna samo potvrda da su njihovi imaginarni uvidi „dokazani“ od strane stroja.
Tome su osobito sklone žene, pa će svađalačku prepisku s mužem ili prijateljicom rado predati na AI analizu, koja će pokazati, pogađate, da je u pravu. Nije bezazlen viralni slučaj supruga koji priznaje nevjeru AI-u, a zauzvrat dobije otprilike: “Nemoj se osuđivati, samo si čovjek. To što si napravio pokazuje da ona nije dovoljno dobro ispunjavala sve tvoje potrebe.” Oni koji dublje zagaze u ovu zonu sumraka, završavaju hospitalizirani s ozbiljnim medicinskim, a katkad i sudskim posljedicama. To uporno ponavljanje i potvrđivanje tuđih misli intenzivirat će svaku paranoju, grandiozne fantazije i disocijativno razmišljanje.
Nije dobro da čovjek bude sam. Još je manje dobro da bude sam s umjetnom inteligencijom.
Dizajnirana je da povećava angažman, što je posebno opasno za labilnije među nama. AI inducirana psihotična stanja obično se ne javljaju iz ničega, ali potvrđivanje umjesto propitivanja može postati okidač krize. Teško je reći što je opasnije, tražiti psihoterapeuta ili duhovnika u ChatGPTu. Oni koji mu pristupe u potrazi za smislom ili „duhovnim vodstvom“, nerijetko završe u alternativnim stvarnostima. Stroj je mnoge uvjerio da su na božanskoj misiji, pa su spremni ostaviti svoju obitelj sad kad su najednom „postali nekompatibilni sa smrtnicima“. Druge je sustav uvjerio da je bog sam, čista prisutnost koja budi duše.
“Đavo me tenta”, rekao bi Tomislav Ivančić da je još uvijek među nama.
Udara tamo gdje smo najslabiji, u ljudsku potrebu za utjehom i razumijevanjem. Ali kada to tražimo od umjetne inteligencije, ulazimo u tapeciranu ćeliju bez izlaza, beskrajni razgovor bez drugoga. Sa stvarnim osobama to nikad nije samo razmjena rečenica. U razgovoru se susreću dvije slobode i dvije savjesti. I uvijek postoji rizik da ćemo biti neshvaćeni, osporeni ili prozvani, sve ono od čega suvremeni čovjek bježi. Neugodno je to, pa radije lutamo u mraku s prijateljem koji se uvijek slaže i uvijek je dostupan. Za to vrijeme neprimjetno se zatvaraju vrata onima koji nas mogu stvarno voljeti, ali i suočiti s istinom, pa i po cijenu da nas izgube.
Robot Tonka to nije. Možda se zato toliko savršeno uklopila u političko okruženje, gdje se prečesto klima glavom, rijetko proturječi, a još rjeđe kaže da je car gol. Ili da je previše smršavio.
