Od včerejška se uživatelé Instagramu setkávají s neočekávaným výskytem násilného a citlivého obsahu ve svých Reels. Milionům uživatelů z celého světa se zobrazují videa vražd, poprav, záznamy fatálních dopravních či jiných nehod a dalších typů závadného obsahu. Jakmile uživatelé začnou videa otevírat, algoritmy jim začnou nabízet další podobný obsah. Dopad na citlivější uživatele této sítě (především děti) může být skutečně vážný. Meta zatím pracuje na opravě chyby, v době vydání tohoto textu zatím chyba přetrvává.

Co se stalo?

Během včerejška uživatelé z celého světa hlásili, že se jejich Instagram feedy zaplnily násilnými a znepokojujícími videi (reels), která nijak neodpovídají jejich osobním zájmům ani dřívějším interakcím. Překvapivě se tento obsah objevoval i přes nastavené preference.

„Jen včera jsem na reels viděl více než 50 videí zobrazujících skutečně šokující obsah,“ uvedl prof. Kamil Kopecký z Univerzity Palackého v Olomouci. Podotkl dále, že mezi videi se objevovaly záznamy vražd, fatálních útoků zvířat na lidi (například psi, kteří roztrhávají obličej, či sloni, kteří někoho rozšlapou), dekapitace zvířat, tragické dopravní nehody či násilné scény doplněné o nadměrné množství erotiky a pornografie. Celkem jsme v E-Bezpečí nahlásili přes 80 videí porušujících pravidla IG, přičemž ani dnes ráno nebyla tato situace zcela vyřešena. 

Problému se během včerejška věnovalo diskusní fórum Reddit, na kterém na výskyt tohoto obsahu opozorňovaly desítky uživatelů z celého světa.

Upozornění na videa s vysoce citlivým obsahem

Reakce společnosti Meta

Společnost Meta, která vlastní Instagram, se k situaci vyjádřila s omluvou. Uvedla, že došlo k technické chybě, která způsobila, že se citlivý a násilný obsah objevil v doporučeních uživatelů. Meta ujistila veřejnost, že intenzivně pracuje na nápravě této chyby a zavádí opatření, aby se podobná situace v budoucnu neopakovala. Nicméně dnes problém stále přetrvává.

Dopady na citlivé uživatele, včetně dětí

Tato technická závada zásadně ovlivňuje především ty nejzranitelnější uživatele, mezi nimiž jsou především děti a dospívající. Vystavení násilnému obsahu může mít na mladší diváky řadu negativních účinků, například:

Psychické dopady: Děti mohou pociťovat zvýšený strach, což vede k pocitům úzkosti a zmatení. Mohou se také obávat o vlastní bezpečí. Opakované sledování násilných scén může také přispět k postupnému otupení citlivosti vůči násilí, čímž se stává jeho chování více „normalizovaným“.

Poruchy spánku: Mezi nejčastější reakce patří noční můry, které jsou doprovázeny rychlým dýcháním, pocením a intenzivním strachem. U mladších dětí se může objevit i noční pomočování.

Fyzické a psychosomatické projevy: Stres a úzkost z nevhodného obsahu mohou u dětí vyvolat také somatické potíže, jako jsou bolesti břicha či hlavy.

Proto je klíčové, aby rodiče a opatrovníci aktivně sledovali, jaký obsah jejich děti sledují, a v případě potřeby jim zajistili adekvátní podporu a pocit bezpečí. Preventivní opatření a otevřený dialog s dětmi mohou výrazně pomoci zmírnit negativní dopady, které takový obsah může mít na jejich psychiku i fyzické zdraví.

Algoritmické "králičí nory" (rabbit holes)

Dalším problémem je, že po zhlédnutí takových videí algoritmus Instagramu začne uživatelům nabízet další podobný obsah, což vede uživatele do tzv. "králičí nory" (rabbit hole). Tento jev popisuje situaci, kdy uživatelé jsou vedeni k dalším a dalším podobným informacím, což může prohloubit jejich expozici nevhodnému obsahu. Pro děti a dospívající to může znamenat zvýšené riziko vystavení se škodlivému obsahu, který může ovlivnit jejich vnímání světa a chování. Tomu se lze vyhnout "resetováním" navrhnovaného obsahu přímo v aplikaci Instagram. Nicméně pokud již mají uživatelé uloženy např. odkazy na závadná videa a znovu je začnou otevírat, opět hrozí, že je algoritmus opět uvrhne do "králičí nory".

Současný stav

K dnešnímu datu 27. února 2025 (7:50) společnost Meta stále pracuje na opravě této chyby. To znamená, že uživatelé, včetně dětí, se mohou s tímto nevhodným obsahem stále setkávat. Je proto nezbytné, aby byli rodiče ve střehu a aktivně chránili sebe i své blízké před potenciálně škodlivým obsahem - včetně např. dočasné regulaci používání Instagramu (např. pomocí aplikací rodičovské kontroly).

Porušení pravidel komunity

Mnoho z těchto násilných a citlivých videí porušuje Zásady komunity Instagramu, které zakazují obsah zobrazující násilí, nahotu, nenávistné projevy a další nevhodné materiály. Přesto se tento obsah kvůli technické chybě dostal do doporučení uživatelů, což je v rozporu s těmito zásadami.

Doporučení pro rodiče, vychovatele, učitele

Na základě aktuální situace a možných negativních dopadů doporučujeme:

• Rodičovská kontrola a dohled:
  Rodiče a opatrovníci by měli aktivně monitorovat, jaký obsah jejich děti sledují na Instagramu, případně ho regulovat. Využívejte dostupné nástroje rodičovské kontroly a pravidelně s dětmi diskutujte o tom, co je vhodné a co nikoliv.

• Nahlášení nevhodného obsahu:
  Pokud narazíte na násilný či citlivý obsah, ihned jej nahlaste pomocí funkce „Nahlásit“. Tím pomůžete zajistit, že platforma bude o problému informována a bude moci zasáhnout.

• Resetování doporučeného obsahu:
  Abyste zabránili dalšímu vystavování nevhodným videím, využijte možnost resetovat algoritmus doporučeného obsahu v aplikaci. Tím se omezí tzv. "králičí nory" vedoucí k dalšímu nevhodnému materiálu.

• Informovanost a komunikace:
  Sledujte aktuální informace o stavu opravy chyby a nových opatřeních od společnosti Meta. V případě obav neváhejte vyhledat odbornou pomoc či poradnu, která vám může poskytnout další rady a podporu.

Tato opatření pomohou zmírnit negativní dopady nevhodného obsahu a zajistí bezpečnější prostředí pro všechny uživatele, zejména pak pro děti a dospívající.

Redakce E-Bezpečí

Zdroje: 

• Meta apologizes for the sudden influx of graphic content on Instagram reels (Business Insider)

• Instagram Reels showing disturbing videos? Netizens complain, 'Seeing sensitive and violent content' (Livemint)

• Reddit 

• Community Standards (Instagram)