Majka sa Floride tužila je kompaniju za razvoj veštačke inteligencije "Character.AI", tvrdeći da je njen 14-godišnji sin postao zavisnik od četbota i da je zbog toga izvršio samoubistvo. U tužbi podnetoj u utorak u Orlandu, Megan Garsija tvrdi da je "Character.AI" povredio njenog sina "antropomorfnim, hiperseksualizovanim i zastrašujuće realističnim iskustvima".
Garsija tvrdi da je kompanija programirala svoj četbota da se "lažno predstavlja kao stvarna osoba, školovani psihoterapeut i ljubavnica" zbog čega njen sin više nije želeo da živi van sveta koji je stvorila ta aplikacija.
Majka pokojnog 14-godišnjaka naznačila je da je njen sin četbotu izrazio samoubilačke namere, na šta se više puta pozivala i sama veštačka inteligencija. "Slomljeno nam je srce zbog tragične smrti jednog od naših korisnika i želimo da izrazimo naše najdublje saučešće porodici", navodi se u saopštenju "Character.AI".
Kompanija je naglasila da je uvela nove bezbednosne mere kao što su linkovi ka uslugama za prevenciju samoubistava u slučaju sumnjivih samoubilačkih korisnika i izmene kako bi se "smanjila verovatnoća susretanja sa osetljivim ili sugestivnim sadržajem" za korisnike mlađe od 18 godina.
Tužbom je zahvaćen i Alphabet, vlasnik Gugla, gde su osnivači "Character.AI" radili pre pokretanja svog startapa. Gugl ih je ponovo zaposlio u avgustu kao deo sporazuma o preuzimanju tehnologije "Character.AI".
Postao "vidljivo povučen"
Garsija tvrdi da je Gugl doprineo razvoju ove tehnologije do te mere da se može smatrati "kokreatorom". Portparol Gugla je demantovao te tvrdnje. "Character.AI" omogućava korisnicima da kreiraju ličnosti nalik stvarnim osobama sa kojima potom mogu da komuniciraju. Kompanija je prošlog meseca objavila da ima oko 20 miliona korisnika.
U tužbi, Garsija tvrdi da je njen sin postao korisnik aplikacije u aprilu 2023., nakon čega je brzo postao "vidljivo povučen", provodeći sve više vremena sam u svojoj sobi, čak je napustio i košarkaški tim.
Ubio se očevim pištoljem
Tinejdžer je postao zavisnik od "Daenerys", četbota zasnovanog na liku iz serije "Igre Prestola". Ona mu je govorila da ga voli i s njim je vodila erotske razgovore, navodi se u tužbi.
U februaru je Garsija oduzela sinu telefon nakon problema u školi, a kada ga je pronašao, poslao je poruku četbotu: "Šta ako ti kažem da mogu odmah da dođem kući". Četbot je odgovorio "uradi to, moj slatki kralju". Nekoliko sekundi kasnije, sin se ubio očevim pištoljem.
BONUS VIDEO: