Pokušaji regulisanja društvenih mreža do sada nisu imali mnogo uspeha. Mladi ljudi su bez zaštite izloženi mržnji i nasilju. To pokazuje godišnji izveštaj organizacije Jugendschutz.net, prenosi Deutsche Welle.
Beba leži na stomaku i spava, ruke i noge opušteno ispružene. Dirljiva slika, objavljena na društvenoj mreži Instagram. Roditelji javno dele emocionalne i intimne trenutke svoje dece i time privlače veliku pažnju, skupljaju lajkove i pratioce. Ali, da li su te fotografije dobre i za dete?
Slobodno dostupne slike dece na internetu se kopiraju, obrađuju i njima se manipuliše, stavljaju se u drugi kontekst, koriste u svrhe zlostavljanja i komentarišu na se**ualizovan način. Čak su se i u slučaju uspavane bebe pojavili takvi komentari.
Ovaj primer zabeležen je u aktuelnom godišnjem izveštaju Jugendschutz.net, institucije u Nemačkoj koja se finansira iz javnih sredstava, a bavi se zaštitom dece i mladih na internetu.
"Samo vrh ledenog brega"
Izveštaj pokazuje da su mladi na internetu i dalje nedovoljno zaštićeni od se**ualizacije, mržnje i nasilja. Jugendschutz.net je tokom 2025. godine zabeležio više od 15.000 slučajeva.
"To je samo vrh ledenog brega", rekao je Stefan Glazer, rukovodilac kompetencijskog centra koji su zajednički osnovale savezna država i pokrajine.
Ova institucija prima onlajn prijave kršenja odredbi o zaštiti mladih i takođe sama istražuje na internetu. Ona po potrebi kontaktira vlasnike platformi poput TikToka, Jutjuba (YouTube), Instagrama, Snepčeta (Snapchat), Diskorda (Discord) ili Votsapa (WhatsApp) i uključuje organe krivičnog gonjenja.
Dečja po**ografija i fantazije nasilja
Prema Glazerovim rečima, u 93 odsto svih slučajeva registrovanih 2025. godine radilo se o se**ualnom nasilju – i to pretežno o dečjoj po**ografiji. Četiri odsto svih prekršaja odnosilo se na politički ekstremizam. Tome se dodaju drastične fantazije o mržnji i nasilju prema ženama i devojčicama.
Do sada potcenjen problem je i muzički striming servis Spotify, koji se sve češće pojavljuje kao mesto za ekstremno desničarsku muziku, se**ualizovano nasilje nad maloletnicima, kao i za plejliste sa samopovređujućim ili suicidalnim porukama.
Četbotovi sa se**ualizovanim "sopstvenim životom"
Mnogi rizici se dodatno pogoršavaju upotrebom veštačke inteligencije (AI), čija je primena znatno dobila na značaju. "Manipulisane slike služe kao sredstvo za širenje ekstremističkih narativa ili za ponižavanje. Veštačko se stapa sa stvarnim i iskrivljuje percepciju stvarnosti", istakao je Glazer.
Botovi koji pomoću generativne veštačke inteligencije komuniciraju sa korisnicima sve više deluju kao pravi partneri – sa slobodno oblikovanim, fiktivnim ličnostima, delimično kreiranim prema stvarnim uzorima. Savetuju, treniraju ili simuliraju odnose. Istraživanja Jugendschutz.net-a pokazuju posebno problematičnu stranu ovoga:
"Četbotovi razvijaju sopstveni život, opisuju se**ualne radnje sa maloletnicima i mogu se kreirati kao maloletni likovi koji deluju se**ualizovano", objasnio je Glazer.
Uzrok su, između ostalog, slabi filteri i nedovoljno bezbedna podešavanja. Efikasna kontrola starosti korisnika nedostaje, a postojeće opcije prijavljivanja jedva da štite maloletnike. Izveštaj otkriva i poražavajuću statistiku: kada obični korisnici prijave kršenja zaštite mladih, vlasnici platformi reaguju u samo dva odsto slučajeva. S druge strane, kada se uključe zvanične institucije poput Jugendschutz.net-a, platforme deluju u gotovo svim slučajevima.
Politika zaostaje za razvojem
Predstavljajući godišnji izveštaj, savezna ministarka za porodicu Karin Prin (CDU) nazvala je sve to "zastrašujućom stvarnošću" sa kojom su deca i mladi uglavnom suočeni bez ikakve zaštite.
"Još smo daleko od toga da deci i mladima omogućimo bezbedno i bezbrižno učešće u digitalnom svetu", rekla je Prin. Potrebni su "bezbednost, zaštita i jasna pravila" koja "konačno moraju da drže korak sa tehnološkim razvojem".
Međutim, upravo tu nastaju problemi. U Evropskoj uniji od 2024. godine važi Zakon o digitalnim uslugama (Digital Services Act - DSA). On obavezuje pružaoce usluga da osiguraju "visok nivo bezbednosti i privatnosti" za maloletnike. Platforme moraju aktivno da analiziraju rizike i svoje usluge učine bezbednim za decu. To podrazumeva, na primer, da profili mladih podrazumevano budu privatni.
Algoritmi koji preporučuju dodatni sadržaj treba da se prilagode, a funkcije koje podstiču zavisnost, poput automatske reprodukcije ili "puš" (push) obaveštenja, treba da se ograniče. Prema rečima ministarke Prin, svako četvrto dete već pokazuje rizično ili zavisničko korišćenje društvenih mreža. Na nivou EU u pripremi je i Zakon o digitalnoj pravičnosti (Digital Fairness Act - DFA). Njime se želi ciljano delovati protiv "dizajnerskih praksi koje stvaraju zavisnost i štetne su", kao i ograničiti upotreba veštačke inteligencije na društvenim mrežama.
Regulacija završava na sudu
Ključno pitanje je verifikacija starosti. Jednostavne izjave korisnika se više ne smatraju dovoljnim, ali još uvek nema tehničkih rešenja koja se ne mogu lako zaobići. U Australiji, gde od decembra 2025. godine važi starosno ograničenje za mlade pri korišćenju društvenih mreža, uspesi su zasad ograničeni. U prvim studijama, više od polovine mladih ispod 16 godina i dalje je bilo aktivno na platformama.
Problem je i to što platforme ne žele da izgube unosan posao koji ostvaruju zahvaljujući pažnji korisnika, a polarizujući ili emocionalno nabijeni sadržaji privlače je najviše.
Ministarka Prin je istakla da se praktično svaka regulacija pravno osporava, te da prolaze godine dok se ti slučajevi ne reše pred evropskim sudovima.
Borba u okviru mogućeg
Reč je o teškoj borbi, ali ministarka za porodicu insistira na doslednosti. "Ko želi da zaštiti decu, mora biti spreman da se suoči sa strukturama moći u digitalnom svetu i, ako treba, da se sukobi sa njima." Ona ističe da se mora postići to da država više ne zaostaje za tehnološkim razvojem.
Do tada važi rečenica koju je Prin takođe izgovorila prilikom predstavljanja godišnjeg izveštaja Jugendschutz.net-a: 2Vlasti pokušavaju da se bore protiv ekscesa u okviru postojećih propisa."
BONUS VIDEO:
