YouTube ima veliki problem s iskorištavanjem djece

Diljem YouTubea pojavio se uznemirujući trend: računi objavljuju uznemirujuće i eksploatatorske videozapise usmjerene na djecu u glavnim ulogama u kompromitirajućim, grabežljivim ili jezivim situacijama i prikupljaju milijune pregleda.



BuzzFeed News je pronašao brojne videozapise, od kojih mnogi izgleda da potječu iz istočne Europe, a koji prikazuju malu djecu, često u otkrivanju odjeće, smještenu u ranjive scenarije. U mnogim slučajevima, sputani su konopcima ili trakom, a ponekad plaču ili su u vidljivoj nevolji. U drugim videozapisima djeca su oteta ili natjerana da se 'igraju liječnika' s odraslom osobom. Videozapisi često sadrže grube teme poput injekcija, jedenja izmeta ili igala. Mnogi dolaze s 'provjerenih' kanala YouTubea i imaju desetke milijuna pregleda. Nakon što je BuzzFeed News skrenuo pozornost na YouTube na ove videozapise, oni su uklonjeni.

Posljednjih tjedana YouTube se suočio s kritikama nakon izvješća o uznemirujućim animiranim videozapisima i bizarnog sadržaja , koji su bili namijenjeni djeci koja koriste likove prikladne za obitelj, a neke od njih nisu uhvatili filtri usluge YouTube Kids. Svi video zapisi koje je pregledao BuzzFeed News bili su izvođenje uživo, koje su navodno postavili odrasli i s djecom. Uzeti zajedno, oni čine ogroman, uznemirujući i iznimno popularan svemir video zapisa koji su - donedavno - postojali bez moderacije platforme.



Čini se da se to mijenja. U utorak popodne BuzzFeed News kontaktirao je YouTube u vezi s brojnim provjerenim računima - svaki s milijunima pretplatnika - sa stotinama uznemirujućih videozapisa koji prikazuju djecu u nevolji. Od srijede ujutro svi su videozapisi koje pruža BuzzFeed News, kao i računi, obustavljeni zbog kršenja pravila YouTubea. YouTube je za BuzzFeed News rekao da su brisanja dio planiranih napora u borbi protiv ove vrste sadržaja te da su neki računi i videozapisi koje pruža BuzzFeed News već trebali biti izbrisani.



'U prošlom tjednu ukinuli smo preko 50 kanala i uklonili tisuće videozapisa prema ovim smjernicama', stoji u priopćenju YouTubea. Svi dolje prikazani videozapisi još su bili aktivni od utorka navečer.

Prema YouTubeu, brisanja su dio većih napora za uklanjanje eksploatatorskog sadržaja na platformi. Prošli tjedan tvrtka prestaje ToyFreaks, masovno popularan račun koji vodi Greg Chism za videozapise koji su graničili sa zlostavljanjem djece. Račun prikazali video zapise Chismovih kćeri vrišteći od straha, kupanje, pretvaranje da su bebe, pljuvanje hrane, nasilno hranjenje i 'pišanje'. Račun je imao 8 milijuna sljedbenika otkad ga je YouTube zatvorio.

U blog tvrtke u srijedu popodne , YouTube se obvezao da će sveobuhvatno riješiti problem otklanjanjem praznina u svojoj politici provedbe. Od danas tvrtka čisti račune za koje se - poput ToyFreaksa - čini da pokazuju ugroženost djece. To su i crtići i animirani videozapisi koji ograničavaju dob, a koji sadrže likove prilagođene djeci koji se bave bizarnim ili odraslim situacijama.



Tvrtka također suzbija oglašavanje na videozapisima koji prikazuju likove obiteljske zabave koji se bave nasiljem. Prema YouTubeu, tvrtka je od lipnja uklonila oglase na 3 milijuna ovih videozapisa. Stranica također planira novu inicijativu za onemogućavanje svih komentara na sve videozapise s djecom u eksploatacijskim situacijama. Prema YouTubeu, ako se videozapis s djecom počne puniti neprikladnim komentarima, stranica će onemogućiti nit komentara za taj videozapis. Tvrtka će također pružati smjernice kreatorima koji izrađuju sadržaj prikladan za obitelj u obliku nekih pisanih uputa. Na kraju, tvrtka je rekla da će raditi sa stručnjacima za sigurnost djece kako bi nastavila identificirati zabrinjavajuće trendove poput ovog, kojemu je tvrtka dopuštala da godinama napreduje na svojoj platformi. YouTube je čak verificirao mnoge kanale koji su uvredljivi-proces za koji tvrtka kaže da je izvršen automatski tek 2016. Tvrtka kaže da je ponovno ocijenila postupak provjere kako bi dodala više ljudskog nadzora.

Prije nego što ih je YouTube uklonio, ti su video zapisi o iskorištavanju djece uživo bili rasprostranjeni i lako ih je pronaći. Štoviše, navodno su bili na YouTubeovom radaru: Matan Uziel - producent i aktivist koji vodi Prave žene, stvarne priče (platforma za žene da prepričavaju osobne priče o traumama, uključujući silovanja, seksualne napade i trgovinu seksom) i koja je BuzzFeed Newsu dostavila više od 20 primjera takvih video zapisa - rekao je za BuzzFeed News da je više puta pokušao prenijeti videozapise na YouTube pozornost i da nisu poduzete nikakve bitne radnje.

Uziel je 22. rujna poslao e -poruku izvršnoj direktorici YouTubea Susan Wojcicki i još tri zaposlenika Googlea (kao i agentima FBI -a) izražavajući svoju zabrinutost zbog 'desetaka tisuća videozapisa dostupnih na YouTubeu za koje znamo da su stvoreni da služe kao slatkiši za oči izopačenima. , jezivi odrasli, mrežni predatori da se prepuste dječjim maštarijama. ' Prema e -pošti koju je pregledao BuzzFeed News, Uziel je uključio više snimaka zaslona uznemirujućih videozapisa. Uziel je također rekao BuzzFeed Newsu da je zabrinutost oko videozapisa riješio početkom ove jeseni u Google Hangoutu s dva Googleova službenika za komunikacije iz Ujedinjenog Kraljevstva, te da je Google izrazio želju da se pozabavi tom situacijom. Glasnogovornik YouTubea rekao je da tvrtka nema evidenciju o e -pošti od 22. rujna, ali je za BuzzFeed News rekao da je Uziel 13. rujna poslao e -poruku sa snimkama zaslona uvredljivih videozapisa. Tvrtka kaže da je uklonila svaki video zapis koji je poslao Uziel.

Ovaj video, s računa 'Gospodin Tisha', prikazuje čovjeka u klaunovskoj maski koji otima i nasilno ubija mlado dijete u perilicu rublja.

Poput ToyFreaksa, gospodine Tisha, bio je verificirani YouTube račun koji vodi obitelj u kojoj su djeca glumci. Od utorka je imala 1,6 milijuna pretplatnika.



Račun je YouTube ukinuo ubrzo nakon što je BuzzFeed News kontaktirao YouTube.

Video zapisi gospodina Tishe često su smanjeni sličnim uznemirujućim slikama, uključujući i djecu koja su ugrizla bubice ili su podvrgnuta lažnim medicinskim zahvatima. Neki imaju djecu prekrivenu lažnom krvlju. Mnogi najšokantniji videozapisi imaju više milijuna pregleda.

Upozorenje

Ova slika je grafička

Dodirnite za otkrivanje

Kliknite za otkrivanje

Redoviti niz videozapisa gospodina Tishe uključuje ključne riječi 'Bad Baby' i uključuje dijete koje ne posluša odraslu osobu. Odrasla osoba često se može vidjeti kako drži pojas kada otkrije dijete.

Još jedan račun koji je provjerio YouTube-'Lady Diana'-imao je slične uznemirujuće videozapise. Prema stranici 'O' računa, vodi ga 12-godišnjak iz Ukrajine. Račun ima više od 1,3 milijuna pretplatnika.

Upozorenje

Ova slika je grafička

Dodirnite za otkrivanje

Kliknite za otkrivanje

Račun je YouTube ukinuo ubrzo nakon što je BuzzFeed News kontaktirao YouTube.

U spotovima se prikazuju odrasli u zastrašujućim kostimima koji otimaju ili ismijavaju djecu.

Upozorenje

Ova slika je grafička

Dodirnite za otkrivanje

Kliknite za otkrivanje

U video s više od 5,1 milijuna pregleda, vrišteće dijete drži se dok mu muškarac u kostimu 'Joker' razmazuje pastu za zube po licu.

Upozorenje

Ova slika je grafička

Dodirnite za otkrivanje

Kliknite za otkrivanje

Poput sličnih računa, čini se da se videozapisi Lady Diane unovčavaju. Više video zapisa-uključujući jedan pod nazivom 'Naughty Elf', koji je imao 8,9 milijuna pregleda i uključivao je sliku mlade djevojke zalijepljenu na zid-uključivalo je programske oglase prije rolne.

Zahvaljujući YouTubeovoj značajci automatske reprodukcije za preporučene videozapise, kada korisnici gledaju jedan popularan uznemirujući dječji videozapis, veća je vjerojatnost da će se spotaknuti u eksploatatorsku rupu za zečeve s algoritmom. Nakon što je BuzzFeed News prikazao niz ovih videozapisa, YouTube je počeo preporučivati ​​druge uznemirujuće videozapise s popularnih računa poput ToysToSee.

Upozorenje

Ova slika je grafička

Dodirnite za otkrivanje

Kliknite za otkrivanje

Algoritam preporuke za automatsku reprodukciju popunjava videozapise s više računa, uključujući jedan trop gdje greške napadaju djecu. Jedan od prikazanih videa imao je preko 90 milijuna pregleda.

Videozapisi s manje popularnih računa često su uznemirujući. Brojni video zapisi koje je pogledao BuzzFeed News prikazuju vrlo malu djecu koja se igraju liječnika s odraslom osobom koja je izložila gornje dijelove djetetove stražnjice kako bi im se rugala ubrizgavajući im špricu, djecu koja se pretvaraju da jedu izmet iz pelene i djecu u kupanju odijela koja su naizgled oteta i držana pod vodom dok odrasli nisu u nesvijesti.

Ovaj uznemirujući video zapis imao je gotovo 6 milijuna pregleda.

Upozorenje

Ova slika je grafička

Dodirnite za otkrivanje

Kliknite za otkrivanje

Možda ipak najviše uznemiruje serija video zapisa s mladim djevojkama na web kameri koji - za razliku od videa u stilu ToyFreaksa - izgleda da nisu namijenjeni djeci. Ovi video zapisi dolaze uglavnom s jednokratnih računa i prikazuju mlade djevojke oskudno odjevene u razgovoru ili pjevanju pred web kamerama.

Neki od videa imaju milijune pregleda. Mnogi su budni godinama. Ovaj je videozapis, na primjer, objavljen u rujnu 2012. i prikazuje mladu djevojku u spavaćici.

Preko youtube.com

Kao i mnogi video zapisi u ovom žanru, sadrži grabežljive komentare.

I dječji glumac i videozapisi s web -kamere predstavljaju poseban izazov za YouTube u nastojanju da moderira potencijalno eksploatacijski sadržaj na svojim platformama. Iako su svi video zapisi bizarni i uznemirujući, mnogi su jezivi na načine na koje algoritam za moderaciju može biti teško razaznati. U nekim slučajevima videozapisi zauzimaju čudnu sivu zonu između glumačke igre i doista uvredljivog ponašanja. Neki videozapisi, na primjer, prikazuju djecu zalijepljenu zidovima dok se smiju, dok se drugi videi djece koja se igraju liječnika čine glupima s djecom koja se izgleda zabavljaju.

Ovi video zapisi, iako su još bizarni i uznemirujući, vjerojatno prolaze kroz neke YouTubeove algoritamske kanale za moderiranje. U prethodnim izjavama brojnim prodajnim mjestima, uključujući BuzzFeed News, YouTube je rekao da će 'provoditi širi pregled povezanog sadržaja u suradnji sa stručnjacima Trusted Flaggers.' I nedavni blog post opisuje značajne promjene u provođenju ovog sadržaja.

Ipak, nije jasno jesu li ti programi dovoljno značajni da uhvate i ograniče količinu uznemirujućeg dječjeg sadržaja na platformi. YouTube je za BuzzFeed News rekao da planira nastaviti razvijati svoju politiku uz loše glumce koji će neizbježno pokušati nastaviti objavljivati ​​uznemirujuće sadržaje ove prirode. Iako je tvrtka napomenula da će ovo biti tekuća borba, predložila je da će strojno učenje odigrati važnu ulogu u rješavanju ovog problema u velikoj mjeri.

AŽURIRANJE

23. studenoga 2017. u 04:32

Ovaj je post ažuriran kako bi odražavao izjavu YouTubea u vezi s njegovim kontaktom s Matanom Uzielom.