Pre dve nedelje, u novembru, javnosti je predstavljena aplikacija “2Wai” koja njenim korisnicima nudi digitalni zagrobni život, mogućnost da „ćaskaju“ sa preminulim voljenima osobama, zahvaljujući veštačkoj inteligenciji koja replicira njihov glas, sliku i simuliranu ličnost.

Startap sa sedištem u Los Anđelesu, “2Wai” postao je viralan kada je suosnivač Kalum Vorti objavio promotivni video koji prikazuje kako njihova tehnologija funkcioniše.

Snimak prikazuje trudnicu koja razgovara sa veštačkim prikazom svoje pokojne majke preko telefona.

Zatim skače 10 meseci unapred, prikazujući veštačku „baku“ kako čita bebi priču za laku noć. Kasnije, dete, sada mladi dečak, ležerno razgovara sa avatarom dok ide kući iz škole.

Video se završava tako što odrasli sin govori digitalnoj baki da će uskoro postati prabaka.

„Sa 2Wai, tri minuta mogu trajati zauvek“, navodi se u videu.

Vorti je dodao da kompanija „gradi živu arhivu čovečanstva“ putem svoje društvene mreže zasnovane na avatarima. Takođe je napisao: „Šta ako bi voljeni koje smo izgubili mogli biti deo naše budućnosti?“

Aplikacija, koja je sada dostupna na “Apple App Store”, omogućava korisnicima da kreiraju ono što “2Wai” naziva HoloAvatar. Prema rečima kompanije, ovi avatari „izgledaju i govore kao vi, pa čak i dele ista sećanja“.

Vorti je pozvao korisnike da „isprobaju beta verziju “2Wai” na “App Store”. Verzija za Android telefone stiže uskoro.

Za mnoge ožalošćene porodice, ova mogućnost je primamljiva. U početku, može ponuditi izvesnu utehu, način da se „nastavi razgovor“ sa preminulima, tehnološki način da se zadovolji njihova čežnja i ublaži bol. Ali ispod ovog prividnog olakšanja kriju se duboki rizici, i psihološki i etički…

Način rada platformi za zagrobni život

“2Wai” je izazvao najviše pažnje javnosti, ali to nije jedina platforma koja nudi digitalni zagrobni život i komunikaciju sa “mrtvima”.

Postoji, recimo, “HereAfter”, koji nudi da vas opširno intervjuiše (dok ste živi), a zatim, kada vas više ne bude, pretvori te informacije u aplikaciju za ćaskanje.

Zatim, tu je i “MyWishes”, koji šalje poruke od preminulih voljenih osoba – ponovo učeći iz podataka koje mu unosite.

“Project December” – nudi aplikaciju za ćaskanje sa mrtvima…

Tu je i “Hanson Robotiks”, kompanija koja je napravila robotsku bistu preminule žene na osnovu „njenih sećanja, osećanja i uverenja“, koja je kasnije razgovarala sa ljudima, pa čak i pohađala fakultetski kurs…

Sve ove platforme rade na sličan način…

Proces se obično odvija u fazama. Pre smrti, ili ubrzo nakon toga, članovi porodice prikupljaju digitalne materijale. Neke platforme podstiču ljude da kreiraju sopstvene digitalne avatare dok su još živi, snimajući intervjue, odgovarajući na upitnike o ličnosti i postavljajući reprezentativni sadržaj. Ovaj „pre-mortem“ pristup proizvodi tačnije simulacije, ali zahteva suočavanje sa smrtnošću na načine koje mnogi smatraju veoma neprijatnim.

Faza obuke veštačke inteligencije može trajati nedeljama ili mesecima, u zavisnosti od količine podataka. Inženjeri čiste podatke, uklanjajući duplikate i nebitni sadržaj, a zatim ih unose u jezičke modele. Sistem uči obrasce: Kako je ova osoba započinjala imejlove? Koje teme su je oduševljavale? Kako bi izrazila neslaganje? Koje metafore je preferirala?

Nakon obuke, četbot postaje dostupan putem aplikacija ili veb-sajtova. Korisnici dobijaju odgovore koji imaju za cilj da zvuče kao pokojnik.

Neke platforme nude modele pretplate, naplaćujući mesečne naknade za neograničene razgovore. Druge prodaju jednokratni pristup ili ograničavaju besplatne interakcije.

Socijalni i psihološki aspekti

Paralelno sa predstavljanjem platforme “2Wai” oglasili su se istraživači iz Kembridža, apelujući da se pod hitno naprave protokoli koji će zaštiti društvo i pojedince od “industrije digitalnog zagrobnog života”.

„Brzi napredak u generativnoj veštačkoj inteligenciji znači da skoro svako ko ima pristup internetu i neko osnovno znanje može da oživi preminulu osobu“, rekla je dr Kataržina Novačik-Basinska (Dr Katarzyna Nowaczyk-Basińska), koautorka studije i istraživačica u Kembridžovom Leverhalm centru za budućnost inteligencije (LCFI).

Istraživači sa Univerziteta u Kembridžu upozoravaju da je industrija „digitalnog zagrobnog života“ plodno tle za zlostavljanje, komercijalizaciju tuge, pa čak i emocionalnu manipulaciju.

U radu koji su objavili navodi se da je jedan od problema – saglasnost. Većina ljudi čiji podaci pokreću sporne četbotove nikada nije pristala na digitalno vaskrsenje. Objavljivali su na društvenim mrežama i pisali imejlove ne zamišljajući da će te reči jednog dana obučiti veštačku inteligenciju da ih oponaša nakon smrti.

Pravni okviri se bore da sustignu taj korak. Trenutni zakoni generalno tretiraju digitalne podatke kao imovinu koja se može nasleđivati, ali ne rešavaju pitanje da li potomci imaju pravo da kreiraju veštačku inteligenciju pokojnika. U Evropskoj uniji, GDPR (Opšta uredba o zaštiti podataka General Data Protection Regulation, je propis Evropske unije koji štiti lične podatke i privatnost građana EU.) tehnički garantuje prava na podatke, ali ta prava prestaju smrću.

Sjedinjene Američke Države nemaju sveobuhvatni savezni zakon o digitalnoj privatnosti, što stvara haotičnu mešavinu državnih propisa. Neke jurisdikcije počinju da deluju. Nedavno predloženi zakon Kalifornije zahtevao bi eksplicitnu saglasnost pre kreiranja veštačke inteligencije (AI) prikaza preminulih osoba, barem u komercijalne svrhe. Francuska priznaje pravo da se odredi sudbina sopstvenih digitalnih podataka nakon smrti, iako je sprovođenje i dalje nejasno. Ali većina pravnih sistema nije ni počela da se bavi ovim pitanjima.

Problem komodifikacije duboko uznemirava etičare. Pod komodifikacijom se podrazumeva proces pretvaranja nečega (poput usluge, ideje, ljudske aktivnosti, pa čak i ljudskog tela) u robu (komoditet) koja se može kupovati i prodavati na tržištu, stičući tržišnu (razmensku) vrednost umesto da primarno služi svojoj izvornoj (upotrebnoj) vrednosti. U suštini, sve što je komodifikovano postaje predmet trgovine, gubi svoj izvorni smisao i počinje da se vrednuje kroz cenu.

Kompanije profitiraju od tuge, prodajući pristup simuliranim verzijama ljudi koji ne mogu da prigovore ili imaju koristi. Poslovni model stvara perverzne podsticaje: kompanije žele da korisnici budu emocionalno zavisni od njihovih platformi, da se pretplaćuju iz meseca u mesec, što ih potencijalno sprečava da završe proces žalosti i krenu dalje.

Stručnjaci za mentalno zdravlje upozoravaju i na ostale psihološke opasnosti. Dugotrajna interakcija sa „griefbots“, kako su ovi modeli nazvani, može omogućiti nezdravo poricanje, sprečavajući korisnike da prihvate konačnost smrti.

Postoji rizik od parasocijalnih odnosa gde ljudi ulažu emocionalnu energiju u interakcije koje nikada ne mogu biti istinski recipročne. Ranjive osobe mogu preferirati veštačku inteligenciju u odnosu na prave ljudske odnose, birajući utešnu poznatost simulacije umesto nepredvidivog kompleksa živih ljudi.

Problem tačnosti predstavlja još jednan razlog za zabrinutost. Sistemi veštačke inteligencije (nazvani “deadbots” ili “griefbots) prave greške, ponekad generišući odgovore koji deluju pogrešno ili nekarakteristično. Za ožalošćene ljude koji traže autentičnu vezu, ove greške mogu biti razarajuće. Još gore, sistemi mogu izmisliti sećanja ili mišljenja koja pokojnik nikada nije imao, potencijalno iskrivljujući način na koji se pamte.

Kršenje privatnosti proteže se i van pokojnika. Razgovori između dve osobe sada postaju sirovina za obuku veštačke inteligencije bez pristanka obe strane. Vaše intimne poruke prijatelju mogle bi da na kraju obuče njihovog čet-bota za pamćenje, budu izložene članovima njihove porodice ili sačuvane na neodređeno vreme od strane korporacija.

Budućnost koja je počela

U narednoj deceniji, digitalne usluge zagrobnog života postaće uobičajene, rutinske kao planiranje sahrana i izrada testamenta. Tehnologija će se dramatično poboljšati. Budući sistemi veštačke inteligencije će sintetizovati video, glas i tekst u impresivna iskustva virtuelne stvarnosti gde naizgled možete provoditi vreme sa preminulim voljenima u fotorealističnim okruženjima.

Ova bliska budućnost zahteva pripremu. Planiranje zaostavštine sada bi trebalo da uključuje odredbe o digitalnom nasleđu. Ljudi bi trebalo da dokumentuju svoje preferencije: Da li želite da se digitalni avatar kreira nakon smrti? Ko bi trebalo da ga kontroliše? Koliko dugo bi trebalo da postoji? Koji podaci se mogu koristiti? Ovi razgovori deluju morbidno, ali su sve neophodniji.

Tehnička pismenost u vezi sa mogućnostima i ograničenjima veštačke inteligencije postaje neophodna. Ljudi moraju da shvate da su “griefbots” sofisticirana mimikrija, a ne očuvanje svesti. Oni mogu pružiti utehu, ali ne bi trebalo da zamene ljudsku vezu ili profesionalno savetovanje o tugovanju.

Za one koji tuguju, stručnjaci za mentalno zdravlje preporučuju oprezan pristup ovim tehnologijama.

A šta reći o kompanijama koje prosto galopiraju sa svojim botovima kako bi zauzeli što bolje mesto na tržištu zagrobnog života? Kao što je jedan kritičar rekao nakon objave “2wai” – pretvaranje bola i nečije žalosti u poslovnu priliku nije samo profitabilno… pre će biti perverzno i krajnje nemoralno.