Meta i besmrtni profil: etika, pravo i tehnologija stvaranja digitalnih ličnosti preminulih korisnika

Ključne stavke:

• Meta je 2023. dobila patent koji opisuje kako veliki jezički modeli mogu simulirati aktivnosti korisnika na društvenim mrežama, uključujući održavanje računa preminulih osoba kroz generisane postove, komentare i poruke; kompanija tvrdi da trenutno ne planira primjenu te ideje.
• Ideja ilustruje sukob između poslovnih motiva — povećanja angažmana i podataka za obuku AI — te ozbiljnih etičkih, pravnih i psiholoških dilema koje proizlaze iz stvaranja digitalnih klonova umrlih osoba.

Uvod:

Patent Meta Platforms iz 2023. godine izazvao je snažnu i često uznemirujuću reakciju javnosti kada je postalo poznato da kompanija razrađuje sistem kojim bi veliki jezički modeli mogli "simulirati" ponašanje korisnika u slučaju njihove odsutnosti ili smrti. Koncept nije samo tehnološka kurioznost: on u sebi nosi pitanja privatnosti, pristanka, autentičnosti i komercijalne odgovornosti koje se tiču svakog korisnika digitalnih usluga. Rasprava se proteže od pragmatičnih pitanja kako se prikupljaju i koriste podaci, do dubljih ljudskih implikacija na proces žalovanja i sjećanja. Iako je Meta objavila da nema planova za daljnju realizaciju patente, sam njegov sadržaj otkriva putanju u kojoj velike tehnološke kompanije traže nove načine da iskorištavaju podatke i održavaju korisnički angažman — čak i kad su korisnici fizički odsutni.

Šta predviđa Metain patent

Patent opisuje sistem u kojem se veliki jezički modeli obučavaju na istoriji interakcija određenog korisnika: objavama, komentarima, privatnim porukama i drugim digitalnim tragovima. Model bi, prema dokumentaciji, mogao da generiše nove objave i poruke "u stilu" te osobe, odgovarajući na komentare i učestvujući u razgovorima kao da je korisnik i dalje prisutan. Dokument jasno navodi mogućnost primjene i u slučaju da korisnik "uzme dug odmor", ali i u slučaju smrti.

Autori patenta, uključujući visokopozicionirane inženjere kompanije, iznose tehničke scenarije u kojima model iterativno poboljšava svoju simulaciju kroz sakupljanje dodatnih podataka iz reakcija drugih korisnika. Time bi nastao kružni ciklus: generisani sadržaj izaziva reakcije, a reakcije služe kao novo gorivo za učenje modela. Patent pokriva i mogućnost da se takvi modeli koriste internim agentima koji upravljaju sadržajem računa, uključujući i odgovaranje u direktnim porukama.

Iako je jasno navedeno da koncept može pomoći ljudima koji brinu o memoriji preminule osobe ili žele sačuvati "glas" bliske osobe, dokument sadrži i upozorenje da su posljedice ozbiljnije kada je riječ o preminulim korisnicima, jer oni ne mogu vratiti kontrolu ili povući pristanak. Uprkos tome, kompanija je kasnije izjavila da ne planira daljnji razvoj konkretne implementacije opisanih ideja.

Tehnička realnost: kako bi to praktično funkcionisalo

Iz perspektive inženjeringa, ideja nije neizvodljiva. Trenutni veliki jezički modeli već pokazuju sposobnost da imitiraju stil pisanja na osnovu primjera. Da bi sistem vjerno replicirao osobu, potrebna je količina podataka koja obuhvata raznolike vrste izražavanja: kratke objave, duži tekstovi, odgovori u komentarima, privatne poruke, pa čak i multimedijalni materijal poput fotografija i videa sa opisima. Model bi morao naučiti obrasce humora, ponavljajuće fraze, preferencije tema i reakcije na različite emocionalne okidače.

Međutim, tehnički izazovi su značajni. Kvalitet simulacije zavisi od količine i reprezentativnosti podataka. Podaci skupljeni iz javnih objava mogu odražavati samo ograničeni spektar identiteta osobe; privatne poruke i lične poruke često sadrže suptilnosti i kontekst koji su esencijalni za vjerodostojnost, ali su zakonski i etički osjetljive. Također postoji rizik od "propadanja" simulacije — model će u nekim trenucima generisati sadržaj koji se udaljava od ljudskog ponašanja zbog pogrešne generalizacije ili zbog "hallucinacija" koje su česte kod sposobnih, ali nesavršeno kalibriranih modela.

Još važnije, model bi mogao usvojiti i prenijeti predrasude prisutne u prikupljenim podacima. Ako su podaci prikupljeni u okviru određenog društvenog kruga, simulacija će reflektovati taj pogleđ, što može stvoriti iskrivljenu uspomenu. Tehnološki mehanizmi koji bi trebali upravljati transparentnošću, objašnjavanjem odluka modela i mogućnošću ispravki su mogući, ali složeni za implementaciju u svakodnevnu produkciju.

Poslovni motivi: zašto bi kompanija to željela

Platforme čija zarada zavisi od angažmana korisnika imaju snažan ekonomski poticaj da zadržavaju aktivnost na svojim mrežama. Preminuli korisnički računi često ostaju "zamrznuti": sadržaj stoji, ali bez novih objava. Uvođenje modela koji generišu sadržaj moglo bi kebiti novu vrstu angažmana — poruke, komentari, interakcije — što znači više prikaza reklama i više podataka za daljnje treniranje modela.

S druge strane, kompanije se suočavaju i s padom povjerenja korisnika i regulatornim pritiscima. Prateći trendove u industriji, mnoge organizacije testiraju načine kako zadržati korisnike angažovanim kroz personalizovane AI asistente i chat botove. Patent, čak i bez planirane realizacije, pokazuje koliko su tehnološki timovi spremni razmatrati radikalne ideje koje proširuju granice privatnosti i autentičnosti.

Postoji i aspekt strateškog vlasništva podataka. Svaki dodatni komad interakcije i svaka generisana poruka predstavljaju nove podatke koje kompanija može koristiti za analitiku, ciljanje oglasa i unapređenje modela. U tom smislu, digitalna reinkarnacija nije samo proizvod za korisnike, već i sredstvo za ekonomsko jačanje ekosistema podataka.

Pravne neizvjesnosti i vlasništvo nad digitalnim ostavštinama

Pravni položaj digitalnih profila i podataka nakon smrti trenutno je fragmentiran po državama. U nekim jurisdikcijama postoje jasno regulirane opcije: korisnici mogu određivati "nasljednike" naloga ili postoje zakoni koji omogućavaju pristup članovima porodice. U drugim državama, pravni okvir je nejasan ili zastario, jer se mnogi propisi nisu ažurirali da bi adresirali nove realnosti digitalnog života.

Temeljna pitanja uključuju pravo na pristup, autentičnost i vlasništvo nad podacima. Da li su postovi i poruke lična imovina koja se prenosi nasljednicima? Da li platforme imaju pravo da koriste i dalje obrađuju sadržaj preminule osobe za nove svrhe bez izričitog pristanka? Patent Meta to implicitno postavlja u problematičan okvir: ako kompanija može koristiti sadržaj preminule osobe za obuku modela koji zatim proizvodi novi sadržaj u ime te osobe, kome pripadaju ti novi sadržaji i ko snosi odgovornost za njih?

Također, međunarodno pravo i zakoni o zaštiti podataka, poput propisa o privatnosti i pravu na zaborav, dodaju kompleksnost. Na primjer, pravo osobe da se podaci izbrišu može biti u kontradikciji sa željom porodice da sačuva "digitalnu prisutnost" umrlog. Regulativa često zahtijeva izričit pristanak za obradu osjetljivih podataka; pitanje je da li se pristanak preminule osobe može retroaktivno tumačiti kao obuhvatan i za generisane sadržaje.

Nadalje, pravna odgovornost za štetu prouzrokovanu simulacijom preminule osobe ostaje otvoreno polje. Ako generisani sadržaj dovede do klevete, prevare ili narušavanja ugleda, ko je odgovoran? Platforma koja hostuje model, vlasnici modela ili osobe koje su dale pristup podacima? Bez jasnih pravnih okvira, sporovi bi mogli trajati godinama i stvarati presedane.

Psihološki i društveni uticaji na žalovanje

Grief tech — tehnologije koje ciljaju da ublaže tugu kroz digitalne rekonstrukcije preminulih — dotiče se najosjetljivijih ljudskih emocija. Iako interakcija sa simuliranim glasom voljene osobe može pružiti privremeni komfort, istraživanja iz oblasti psihologije ukazuju na rizik da takve interakcije ometaju proces prihvatanja gubitka. Jedan od ključnih zadataka žalovanja je suočiti se s realnošću smrti; prolongiranje osjećaja "prisutnosti" može odložiti ili otežati emocionalno prilagođavanje.

Socijalni odnosi takođe se mogu izmijeniti. Porodice koje pristanu na korištenje digitalne simulacije mogu stvoriti rascjep između onih koji prihvataju i onih koji smatraju da je to neprimjereno. Digitalna reprodukcija može iskriviti kolektivno sjećanje, jer će generisani odgovori i ponašanja vremenom formirati novu, sintetičku verziju ličnosti koja možda neće biti u skladu s onim što su drugi poznavali.

Osim toga, generisani sadržaj može imati nepredviđene emocionalne posljedice na prijatelje i poznanike. Neočekivane ili neprikladne poruke "u ime" umrle osobe mogu izazvati zbunjenost, bol ili čak povratak traumatskih uspomena. Interakcija s digitalnom verzijom nekoga koga smo izgubili mijenja i način na koji kolektivno štuje i pamti preminule.

Etika i manipulacija postumnih glasova

Osnovno etičko pitanje odnosi se na pristanka i autonomiju osobe nakon smrti. Mogućnost da neko drugi — bilo porodica, kompanija ili treća strana — upravlja glasom preminule osobe otvara prostor za manipulaciju. Digitalni klon može biti zloupotrebljen za pojačavanje određenih narativa, za promovisanje komercijalnih interesa ili čak za političku propagandu.

Iskorištavanje imidža i izraza preminule osobe bez njenog jasnog i prethodnog odobrenja predstavlja instrumentalizaciju identiteta. Etički standardi koji štite individualno dostojanstvo trebali bi obuhvatiti i digitalne reprodukcije. Transparentnost je ključna: svaka generisana poruka morala bi biti jasno označena kao produkt AI, s informacijom o tome na osnovu čega je model treniran i ko je odobrio takvu upotrebu.

Također, postoji opasnost od stvaranja "neautentičnih" sjećanja. Kada algoritam počne proizvoditi sadržaj koji ne odražava stvarne misli i stavove preminule osobe, javna percepcija te osobe može se mijenjati. To nije samo teoretski problem — identitet i reputacija ljudi se mogu mijenjati i nakon njihove smrti kroz digitalne intervencije, što nosi moralne i društvene posljedice.

Rizici zloupotrebe i sigurnosni problemi

Tehnološke mogućnosti stvaranja digitalnih persona proširuju i spektar potencijalnih zloupotreba. Jedna od najizravnijih prijetnji je impersonacija: generisane poruke iz "imenа" preminule osobe mogle bi se iskoristiti za prevaru, pritisak na članove porodice ili za manipulaciju finansijskim i emotivnim odlukama.

Sigurnosni rizici obuhvataju i curenje osjetljivog sadržaja. Ako model koristi privatne poruke u obuci, postoji opasnost da podaci oslobođeni kroz grešku u modelu postanu javno dostupni. Također postoji mogućnost da se sistemi iskoriste za stvaranje lažnih dokaza u pravnim sporovima ili za narušavanje privatnosti trećih osoba.

Još jedan problem je kontrola nad generisanim sadržajem nakon što model počne da uči i autonomno proizvodi odgovore. Kada model evoluira, možda će generisati sadržaj koji nikada nije autoriziran i koji odudara od očekivanog ponašanja. Ograničavanje i auditiranje takvih sistema zahtijeva robustan okvir nadzora, verzionisanja i revizije podataka.

Društveni i reputacioni rizici za platforme

Platforme koje implementiraju ovakve tehnologije izlažu se riziku ugleda. Javnost često reaguje emotivno na percepcije manipulacije sjećanjem i privatnošću. Kompanije koje proaktivno nude usluge "oživljavanja" umjesto da dozvole prirodne forme sjećanja mogu biti percipirane kao hladne i komercijalno motivisane.

Pad povjerenja može imati direktne poslovne posljedice. Ako korisnici izgube osjećaj sigurnosti u tome kako njihovi podaci mogu biti korišteni poslije njihove smrti, to može utjecati na korisničko ponašanje — manje objava, manja spremnost na dijeljenje ličnih informacija i promjene u načinu korištenja platforme. Oglašivači i poslovni partneri takođe prate reputacijske rizike; afere u vezi s manipulacijom sjećanjima mogu rezultirati povlačenjem oglasa ili većim regulatornim pritiscima.

Postojeći primjeri i eksperimentalne prakse

Već su zabilježeni primjeri upotrebe AI za imitiranje preminulih: od privatnih eksperimentalnih rješenja koje su koristile snimke i fotografije kako bi stvorile razgovorne agenta za posljednji ispraćaj, do startupa koji nude "grief tech" usluge bazirane na prikupljanju audio i vizuelnog materijala. Ti primjeri pokazuju dvojaku prirodu problema: s jedne strane, tehnologija može pružiti trenutnu utjehu i osjećaj bliskosti; s druge strane, dugoročne posljedice su slabo istražene i često ne kontrolisane.

Neke platforme već imaju mehanizme za "spomenute" račune ili opcije za imenovanje nasljednika naloga. Te prakse omogućavaju porodici pristup i upravljanje računom preminule osobe bez generisanja novog sadržaja. Ove funkcije su kompromis između očuvanja sjećanja i poštovanja integriteta identiteta.

Preporuke za politiku i dizajn proizvoda

Regulatori, tehnolozi i etičari trebaju uspostaviti jasne smjernice prije nego što ovakve tehnologije postanu mainstream. Prvi princip je princip pristanka: bilo koja upotreba podataka preminule osobe u svrhe generisanja novog sadržaja trebala bi biti dopuštena samo ako je postojala jasna i neambivalentna izričita saglasnost prije smrti. Takav pristup poštuje autonomiju pojedinca i jasno definira granice upotrebe.

Transparentnost mora biti obavezna. Svi generisani sadržaji trebaju biti eksplicitno označeni kao proizvod AI, uz objašnjenje kako su podaci prikupljeni i za koje svrhe se koriste. Platforme bi trebale omogućiti audit i reviziju modela, uključujući pristup trećih strana koje mogu provjeriti da li model imitira osobu u granicama etike.

Limitiranje svrhe i vremenski okvir su dodatne mjere. Ako se dozvoli generisanje sadržaja, trebalo bi postojati jasna politika o tome koliko dugo takav digitalni glas može postojati i pod kakvim uslovima može biti deaktiviran. Prava porodica i nasljednici trebaju imati jasne mehanizme za upravljanje tim opcijama.

Regulatorna praksa bi trebala uključivati i zaštitu od zloupotrebe: pravila protiv korištenja simulacija za prijevare, zloupotrebu ugleda i političku manipulaciju moraju biti jasna i kažnjiva. Pritom je važno uspostaviti odgovornost platformi i trećih strana koje nude usluge treniranja modela na podacima preminulih.

Tehničke smjernice za sigurnu implementaciju

Ako se tehnologija uopće razvije u proizvode, razvijatelji trebaju ugraditi zaštitne mehanizme: sažeto, manje je često više. Korištenje minimalne količine podataka potrebne za ostvarenje cilja, robustni sistemi enkripcije i pristupa, te mogućnosti brisanja i "zaborava" su ključne komponente. Poželjno je da modeli budu projektovani tako da ne "memoriraju" eksplicitne privatne poruke i da generisani output bude ograničen na javne i opće formate.

Implementacija jasnog oznaka ("AI generisano") i omogućavanje ljudske revizije za osjetljive interakcije, posebice privatne poruke i komunikacije koje mogu imati ozbiljne posljedice, su nužni. Verzionisanje modela i zapis aktivnosti bi trebali biti dostupni regulatorima i, uz odgovarajuće procese za zaštitu privatnosti, zainteresovanim stranama.

Šta korisnici i porodice mogu učiniti sada

Korisnici koji žele zaštititi svoju digitalnu ostavštinu mogu preuzeti nekoliko proaktivnih koraka. Prvo, provjerite postojeće opcije na platformama koje koristite: mnoge mreže dozvoljavaju imenovanje nasljednika računa ili imaju postavke za deaktivaciju u slučaju smrti. Drugo, jasno zapisivanje želja u testamentu ili digitalnom oporuci može pomoći u izbjegavanju kasnijih nesuglasica. Treće, ograničena i promišljena objava privatnih podataka smanjuje rizik da će se osjetljivi sadržaj koristiti bez vašeg pristanka.

Porodice bi trebale razgovarati o granicama prihvatljivog pristupa i potencijalnoj upotrebi digitalnih podataka nakon smrti. Odluka da se sačuva račun u obliku "spomen profila" ili da se izričito ne dozvoli generisanje sadržaja od strane AI zaslužuje promišljanje i zajedničku saglasnost članova.

Javna debata i sljedeći koraci

Otvorena i uključiva javna debata o ovim temama je neophodna. Uključivanje širih društvenih grupa, etičara, pravnih stručnjaka, psihologa i predstavnika tehnoloških kompanija pomoći će u definisanju standarda koji su istovremeno zaštitnički prema ljudima i realistični u pogledu tehničkih mogućnosti. Transparentni pilot-projekti, etički odbori i nezavisne evaluacije mogu pomoći da se ovakav razvoj odvija pod nadzorom i u skladu sa društvenim vrijednostima.

Regulatori bi trebali razmotriti specifične zakonske norme koje uređuju pristup podacima preminulih, pravo na digitalnu ostavštinu i ograničenja upotrebe podataka u svrhe generisanja sadržaja. Takve norme trebaju biti dovoljno fleksibilne da se prilagode tehnološkim promjenama, ali i dovoljno čvrste da spriječe zloupotrebe.

Mogući scenariji budućnosti

U najboljem slučaju, tehnologija se koristi selektivno, uz izričit pristanak i jasan regulatorni okvir, kako bi se podržali oni koji koriste digitalne rekonstrukcije na etičan i kontrolisan način. U tom modelu, digitalna sećanja bi bila označena, vremenski ograničena i podložna reviziji.

U najgoroj varijanti, komercijalni pritisak i nedostatak nadzora dovode do raširenih simulacija koje mijenjaju način kolektivnog sjećanja, povećavaju rizik od prevare i smanjuju povjerenje u digitalne platforme. To može rezultirati znatnim društvenim i pravnim posljedicama, uključujući međunarodne incidente i duge sudske sporove.

Realnost će vjerovatno biti negdje između, pod utjecajem regulative, javne reakcije i izbora samih platformi. Važno je da društvo odluči kakvu vrijednost pridaje autentičnom sjećanju i koje su granice prihvatljivog korištenja ličnih podataka nakon smrti.

Česta pitanja:

Pitanje: Da li je Meta zaista planirala koristiti AI za simulaciju preminulih korisnika? Odgovor: Meta je dobila patent koji opisuje mogućnost obuke velikih jezičkih modela na podacima korisnika kako bi se simuliralo njihovo ponašanje u odsustvu ili nakon smrti, ali kompanija je izjavila da nema planove za pokretanje te specifične primjene.

Pitanje: Koji su glavni etički problemi vezani za takvu tehnologiju? Odgovor: Etika obuhvata nedostatak pristanka preminule osobe, rizik instrumentalizacije identiteta, potencijalnu manipulaciju sjećanjem i mogućnost emocionalne štete bližnjima koji bi komunicirali s digitalnom reprodukcijom.

Pitanje: Mogu li porodice ostvariti pravo na pristup i upravljanje računima preminulih? Odgovor: To zavisi od platforme i jurisdikcije; neke platforme omogućavaju imenovanje nasljednika ili deaktivaciju računa, ali pravni okvir varira i često je nejasan u mnogim zemljama.

Pitanje: Kako bi se spriječile zloupotrebe generisanih sadržaja? Odgovor: Potrebni su zakonski okviri koji zabranjuju korištenje simulacija za prevare i manipulaciju, obavezna transparentnost platformi, jasna oznaka AI sadržaja, robustna enkripcija podataka i mehanizmi za ljudsku reviziju osjetljivih interakcija.

Pitanje: Može li AI vjerodostojno oponašati nekoga samo na osnovu javnih objava? Odgovor: Javni podaci mogu omogućiti površnu imitaciju stila, ali nedostatak privatnih kontekstualnih informacija i emocionalnih nijansi otežava stvaranje visoko vjerodostojne i potpune reprodukcije identiteta.

Pitanje: Koje mjere mogu pojedinci preduzeti da zaštite svoju digitalnu ostavštinu? Odgovor: Korisnici mogu iskoristiti postojeće postavke na platformama, jasno dokumentirati želje u pravnim oporukama, ograničavati dijeljenje osjetljivih podataka i razgovarati s porodicom o granicama upravljanja digitalnim računima.

Pitanje: Da li postoji mogućnost da se generisani sadržaj označava kao umjetna reprodukcija? Odgovor: Tehnički je moguće i preporučljivo da platforme jasno označavaju generisani sadržaj; takva praksa bi povećala transparentnost i omogućila korisnicima da razlikuju autentične poruke od AI proizvoda.

Pitanje: Kako bi regulatori trebali pristupiti ovom problemu? Odgovor: Regulatori bi trebali propisati obavezni pristanak za upotrebu podataka preminulih u svrhe generisanja sadržaja, uspostaviti sankcije za zloupotrebe, zahtijevati transparentnost i omogućiti mehanizme za reviziju i zaštitu privatnosti.

Pitanje: Šta se može očekivati u narednih pet do deset godina? Odgovor: Verovatno će se pojaviti kombinacija tehnološkog razvoja i regulacije: neke platforme će eksperimentisati s ograničenim i označenim simulacijama uz jasne opt-in mehanizme, dok će regulatorni pritisci i javna rasprava oblikovati prihvatljive norme korištenja.

Pitanje: Kako balansirati između koristi za žalovanje i rizika od otežanog procesa prihvatanja gubitka? Odgovor: Balans zahtijeva multidisciplinarni pristup: psiholozi trebaju voditi evaluacije utjecaja na žalovanje, etičari definirati granice, a zakonodavci i platforme osigurati opcije koje su privremene, dobro označene i dostupne samo uz izričit pristanak.