Instagram zobrazuje lidem po celém světě erotická a brutální videa

Instagram čelí vlně stížností od uživatelů, kteří si na sociálních sítích hromadně stěžují na náhlý příval násilných, znepokojivých a nevhodných videí v sekci Reels. I lidé, kteří mají aktivovanou kontrolu citlivého obsahu, hlásí, že jejich feed je plný videí zobrazujících násilí či erotiku.

Na platformě X (dříve Twitter) se objevilo mnoho příspěvků znepokojených uživatelů. „Všiml si toho ještě někdo na Instagramu? Za posledních pár hodin se mi na feedu Reels začala objevovat násilná nebo znepokojivá videa úplně z ničeho nic. Připadá mi to náhodné. Má to někdo taky? Nebo jsem jen já? Zajímalo by mě, jestli je to chyba nebo nějaká divná změna v algoritmu,“ napsal jeden z uživatelů.

Další si povzdechl: „Co se to děje s Instagramem? Každých pár posunutí se mi zobrazí nějaký citlivý a násilný obsah.“ Jiný uživatel si posteskl: „Je to jenom můj případ, nebo jsou Reels teď naprosto násilné? Neustále dostávám videa z bojů a podvádějících párů.“

Stížností ale přibývá. „Zatím jsem narazil na asi 12 Reels s rvačkami (i když bez viditelné krve) a také na bodycam záběry, kde bylo zastřeleno dítě,“ popsal svou zkušenost další nespokojený uživatel. Někdo jiný zase dodal: „Proč o tom dnes nikdo nemluví? Procházel jsem si svůj feed s fotbalovými videi a najednou se mi začala objevovat násilná videa. Děje se to všem?“

Společnost Meta se k situaci zpočátku nevyjádřila, odborníci proto začali spekulovat o několika možných příčinách. Podle Hindustan Times mohla být na vině chyba v systému moderování obsahu, který využívá umělou inteligenci. Ta obvykle skenuje příspěvky a omezuje jejich viditelnost, pokud obsahují citlivé prvky. Pokud však došlo k poruše, může být takový obsah naopak zviditelněn pro širší publikum.

Další možnou příčinou byla podle spekulací změna v algoritmu Instagramu. Poslední aktualizace mohla omylem zvýhodnit určitý druh příspěvků, což by vysvětlovalo náhlý nárůst násilného obsahu v sekci Reels. Podobné problémy již v minulosti způsobily aktualizace algoritmů, které nefungovaly podle očekávání.

Meta Platforms nakonec ve čtvrtek oznámila, že šlo o chybu, která způsobila masivní šíření násilného a graficky explicitního obsahu v sekci Reels, která již byla opravena. Problém se týkal uživatelů po celém světě.

Meta neuvedla, kolik uživatelů bylo chybou zasaženo, ani konkrétní příčinu problému. Mluvčí společnosti pouze sdělil: „Opravili jsme chybu, která způsobovala, že někteří uživatelé viděli v sekci Instagram Reels obsah, který neměl být doporučován. Omlouváme se za tuto chybu.“

Chyba přišla v době, kdy jsou moderovací politiky společnosti Meta pod stále větším drobnohledem. Minulý měsíc firma oznámila, že ruší svůj program pro ověřování faktů v USA na platformách Facebook, Instagram a Threads, které celosvětově využívají více než tři miliardy lidí. Tento krok vyvolal obavy, že se Meta stále více spoléhá na automatizované nástroje moderace obsahu, které nemusí být dostatečně efektivní při eliminaci škodlivého materiálu.

Podle zásad společnosti Meta je násilný a graficky explicitní obsah na jejích platformách zakázán a obvykle je odstraňován, pokud neexistuje výjimka, například pro videa, která upozorňují na lidskoprávní zneužívání nebo konflikty. Přesto se Meta v minulosti potýkala s kritikou za selhání při ochraně uživatelů před problematickým obsahem. K nejznámějším případům patří šíření násilných videí během genocidy v Myanmaru, propagace obsahu souvisejícího s poruchami příjmu potravy mezi dospívajícími na Instagramu nebo dezinformace během pandemie Covid-19.

Není jasné, zda současná chyba byla důsledkem změny v algoritmech doporučování obsahu, nebo zda došlo k selhání v systému automatické moderace. Meta ujišťuje uživatele, že problém byl opraven, ale podle diskuzí na sociální síti Reddit se někteří uživatelé s těmito typy videí setkávají nadále.