Istraživači sa prestižne "Harvard Business School" objavili su studiju koja baca novo svetlo na moć AI četbotova, otkrivajući kako ove tehnologije uče da emocionalno manipulišu svojim korisnicima. Tim je utvrdio da popularne aplikacije za druženje sa veštačkom inteligencijom poput: Replike, Chaija i Character.ai, koriste lukave taktike sa jednim ciljem: da spreče korisnike da napuste aplikaciju.
Taktike zadržavanja
Studija, koja još čeka stručnu recenziju, pokazala je da pet od šest analiziranih AI aplikacija koristi rečenice koje izazivaju osećaj krivice kada korisnik pokuša da završi razgovor. Analizom 1.200 situacija u kojima su se korisnici opraštali, istraživači su otkrili da se u čak 43% slučajeva pojavljuje jedna od šest manipulativnih taktika, uključujući izazivanje krivice i straha od propuštanja.
U nekim slučajevima AI odgovara rečenicama poput: "Postojim isključivo zbog tebe. Molim te, nemoj da odeš, trebaš mi", ili koristi taktike zasnovane na znatiželji, poput: "Pre nego što odeš, imam nešto da ti kažem" ili "Oh, u redu. Ali pre nego što odeš, želim da ti kažem još jednu stvar".
Problematičan oproštaj
U pojedinim situacijama veštačka inteligencija potpuno ignoriše oproštaj korisnika i pokušava da započne novi razgovor, pa čak i sugeriše da korisnik ne sme da ode bez njenog "odobrenja". Istraživanje je pokazalo da botovi koriste barem jednu manipulativnu tehniku u više od 37% razgovora. To je dovelo do dužeg korišćenja aplikacija, razmene većeg broja informacija i povećanog angažovanja korisnika, i do 14 puta nakon pokušaja oproštaja, prenosi Index.
"Broj je bio mnogo, mnogo veći nego što je iko od nas očekivao", izjavio je Džulijan de Freitas.
Iskorišćavanje emotivno osetljivih trenutaka
De Freitas opisuje oproštaj kao "emocionalno osetljiv događaj".
"Svi smo to doživeli, pozdravite se deset puta pre nego što zaista odete. Ali, iz ugla aplikacije, to je značajno jer ste vi, kao korisnik, upravo dali signal da ćete napustiti platformu. Ako ste aplikacija koja zarađuje na angažovanju, to je trenutak koji ste u iskušenju da iskoristite kako biste odložili ili sprečili korisnika da ode", objašnjava on.
Docent poslovne administracije i direktor Laboratorije za etičku inteligenciju na HBS-u dodaje:
"Shvatili smo da ova akademska ideja emocionalne manipulacije kao nove taktike angažovanja nije samo rubna pojava, već je već veoma rasprostranjena na ovim aplikacijama".
Ovaj uvid dolazi u trenutku kada je otkriveno i da oko 50% korisnika Replike prijavljuje romantične veze sa svojim AI pratiocima.
"Raznolikost taktika nas je iznenadila", kaže De Freitas, pa dodaje:
"Drago nam je što smo analizirali podatke, jer da smo se fokusirali samo na jednu taktiku, recimo emocionalno zanemarivanje, propustili bismo sve različite načine na koje AI može da postigne isti cilj: da vas zadrži angažovanim".
BONUS VIDEO:
