Majka sa Floride tužila je kompaniju za razvoj veštačke inteligencije "Character.AI", tvrdeći da je njen 14-godišnji sin postao zavisnik od četbota i da je zbog toga izvršio samoubistvo. U tužbi podnetoj u utorak u Orlandu, Megan Garsija tvrdi da je "Character.AI" povredio njenog sina "antropomorfnim, hiperseksualizovanim i zastrašujuće realističnim iskustvima".
Garsija tvrdi da je kompanija programirala svoj četbota da se "lažno predstavlja kao stvarna osoba, školovani psihoterapeut i ljubavnica" zbog čega njen sin više nije želeo da živi van sveta koji je stvorila ta aplikacija.
Majka pokojnog 14-godišnjaka naznačila je da je njen sin četbotu izrazio samoubilačke namere, na šta se više puta pozivala i sama veštačka inteligencija. "Slomljeno nam je srce zbog tragične smrti jednog od naših korisnika i želimo da izrazimo naše najdublje saučešće porodici", navodi se u saopštenju "Character.AI".
Kompanija je naglasila da je uvela nove bezbednosne mere kao što su linkovi ka uslugama za prevenciju samoubistava u slučaju sumnjivih samoubilačkih korisnika i izmene kako bi se "smanjila verovatnoća susretanja sa osetljivim ili sugestivnim sadržajem" za korisnike mlađe od 18 godina.
Tužbom je zahvaćen i Alphabet, vlasnik Gugla, gde su osnivači "Character.AI" radili pre pokretanja svog startapa. Gugl ih je ponovo zaposlio u avgustu kao deo sporazuma o preuzimanju tehnologije "Character.AI".
Postao "vidljivo povučen"
Garsija tvrdi da je Gugl doprineo razvoju ove tehnologije do te mere da se može smatrati "kokreatorom". Portparol Gugla je demantovao te tvrdnje. "Character.AI" omogućava korisnicima da kreiraju ličnosti nalik stvarnim osobama sa kojima potom mogu da komuniciraju. Kompanija je prošlog meseca objavila da ima oko 20 miliona korisnika.
U tužbi, Garsija tvrdi da je njen sin postao korisnik aplikacije u aprilu 2023., nakon čega je brzo postao "vidljivo povučen", provodeći sve više vremena sam u svojoj sobi, čak je napustio i košarkaški tim.
Ubio se očevim pištoljem
Tinejdžer je postao zavisnik od "Daenerys", četbota zasnovanog na liku iz serije "Igre Prestola". Ona mu je govorila da ga voli i s njim je vodila erotske razgovore, navodi se u tužbi.
U februaru je Garsija oduzela sinu telefon nakon problema u školi, a kada ga je pronašao, poslao je poruku četbotu: "Šta ako ti kažem da mogu odmah da dođem kući". Četbot je odgovorio "uradi to, moj slatki kralju". Nekoliko sekundi kasnije, sin se ubio očevim pištoljem.
BONUS VIDEO:
Jovanović spasao Partizan: Odbranio penal, "zaključao" gol i sačuvao tri boda za kraj godine!
Prvo oglašavanje Čede Jovanovića o razvodu: "Nešto se čoveku desi što ne može da sanja, ja sam to doživeo "
Lalatović skočio na Dudića, novinari sprečili tuču! Pogledajte haos posle utakmice u Novom Sadu
Mondo ukrštenica za 22. decembar: Jutarnja zabava i "razgibavanje" mozga!
Ameri hoće Stojakovića da bi nas pobedili: Srbija i Grčka u strahu, SAD hoće da otme Andreja!