YouTube patří k nejdůležitějším produktům Googlu. Na YouTube se alespoň jednou za měsíc podívá přibližně polovina obyvatel České republiky. Díky své popularitě a obrovskému množství nahrávaných videoklipů je YouTube lákavý nejen pro potenciální hudební hvězdy nebo modelky, ale i pro devianty.

Na problematická videa, která zobrazují násilí na dětech nebo děti prezentují v sexuálně sugestivních pozicích, upozornil server BuzFeed News. Jeho editoři našli stovky videoklipů, které měly i desítky milionů zhlédnutí. Děti v nich byly svázané, strkané do pračky nebo je dospělí straší, natáčejí je při zvracení či vyplivování jídla, hraní na mimina nebo pomočování.

Problematický obsah zaměřený na děti nebo naopak na sexuální predátory je přitom zdrojem nezanedbatelných příjmů díky velkému množství zhlédnutí a zobrazené reklamy.

Velké množství videoklipů zobrazujících různou intenzitu zneužívání dětí pochází podle zjištění BuzzFeed News z východní Evropy, Ukrajiny či Ruska (podle azbukou psaných názvů videí).

Řada zdrojů problematických videí ale patřila mezi partnery YouTube. To je případ kanálu ToyFreaks, který provozoval otec dvou dcer Greg Chism a který měl osm milionů odběratelů a celkem šest miliard zhlédnutí. ToyFreaks tato čísla stačila na pozici 68. největšího kanálu na YouTube, až za ním je například oficiální kanál zpěvačky Adele nebo Lega.

Diváky přitom lákal na své dcery vystrašené ve vaně nebo s dudlíky.

Podle Chisma jeho kanál ukazoval rodinná videa a opakování motivů, jako je strašení dětí nebo zvracení, je výsledkem analýzy informací o sledovanosti, protože populární videa mu vydělávala peníze. Podle kritiků jde ale o kanál poskytující vzrušení deviantům. Tomu napovídala i část komentářů pod videi.

Slabá odpověď Googlu

Google, respektive vedení YouTube poté, co se BuzzFeed ozval, zareagoval. Výsledkem byla změna podmínek používání služby a nové funkce, které mají zabránit zobrazování nevhodných videoklipů.

Součástí změn bylo zrušení desítek kanálů se znepokojivým obsahem v čele s ToyFreaks. Dalším "podivným" autorům videoklipů Google zastavil možnost zobrazování reklamy, a tedy příležitost k výdělku. Ke stejnému kroku firma sáhla i v případě kontroverze kolem extremistických videí a "fake news" na YouTube.

S odhalováním problematických klipů na YouTube má pomoci technologie – firma začala pro rozpoznávání potenciálně nevhodného obsahu používat umělou inteligenci, respektive strojové učení. Stejně tak hodlá Google prostřednictvím umělé inteligence blokovat nevhodné sexuálně motivované komentáře pod videoklipy s dětmi.

Ukazuje se ale, že automatické monitorování obsahu na YouTube nefunguje zdaleka stoprocentně. Na YouTube v době psaní článku existuje kanál Kids Toy registrovaný před rokem s necelými čtyřmi tisíci zhlédnutí videí. Na něm se během posledních hodin objevilo asi 150 videoklipů z ToyFreaks. Hlavní stránka kanálu přitom nabízí nevinně vypadající návody, jak vybarvovat omalovánky.

Problém se vhodností i v Česku

Pro Google představuje problém také fakt, že řada nevhodných videoklipů pronikla i do aplikace YouTube Kids, která má nabízet pouze obsah vhodný pro malé děti a bez reklam. Je to možné kvůli "optimalizaci" ze strany tvůrců obsahu. Díky vhodnému použití klíčových slov či kreslených postav ve videích je možné algoritmy ošálit.

Na "běžném" YouTube pak kombinace automatického přehrávání následujících videí spolu s touto optimalizací klíčových slov zaměřených na děti znamená, že se děti s nekvalitním nebo přímo nevhodným obsahem setkají téměř s jistotou, je to jen otázka času.

Doporučení na podobná videa se pak po zhlédnutí byť jediného nevhodného klipu zobrazují několik dní nebo i týdnů.

V Česku může být příkladem nevhodného pronikání dospělé zábavy do světa malých dětí projekt Prasátko Slezina od youtubera Kovyho. Slezina má daleko k některým drsným parodiím v angličtině, ale není to, na rozdíl od originálu, nic vhodného pro tříleté dítě.

Umělá inteligence Googlu ale tyto nuance nedokáže odlišit a při vyhledávání slovního spojení prasátko Pepina může ukázat i parodii.

Nejde ale jen o problém Googlu nebo rodičů, kteří nechají děti sledovat YouTube bez dohledu. Svůj podíl na problému mají i producenti kvalitního, originálního a přínosného dětského obsahu, kteří YouTube ignorují. Dávají pak prostor pirátským kopiím, které Google s různou razancí maže (nejčastěji až na přímé žádosti majitelů práv), nebo parodiím či záplavě téměř automaticky generovaného balastu. I přes snahu Googlu obsah na YouTube lépe vytřídit je pro rodiče mnohem bezpečnější pustit dětem Déčko.