Moderování obsahu na sociálních sítích nutí uživatele psát kódovanou řečí

Výraz "neživý" místo slova mrtvý, "pikantní lilek" místo vibrátoru nebo zkratka SA zastupující anglický výraz pro sexuální napadení. I takto vypadá "algospeak": Kódovaný jazyk používaný uživateli sociálních sítí ve snaze předejít automatickému zablokování jejich příspěvků a zajistit jim co největší dosah tváří v tvář algoritmům na moderování obsahu. Tyto systémy mají čím dál větší vliv na vyjadřování na různých platformách, především na tiktoku, popsal deník The Washington Post (WP).

Ilustrační foto

Na rozdíl od jiných velkých sociálních sítí je na tiktoku hlavním médiem pro distribuci obsahu algoritmicky utvářený seznam příspěvků s názvem "pro vás". To, že máte odběratele, ještě neznamená, že se k nim vaše videa dostanou. Důsledkem tohoto nastavení je tendence uživatelů vytvářet příspěvky šité na míru algoritmu, spíše než fanouškům, což znamená držet se na správné straně pravidel znevýhodňujících jistá témata.

Když začala pandemie, lidé na tiktoku i v dalších aplikacích na ni začali odkazovat jako na "návrat Backstreet Boys ke koncertům" nebo vymýšleli jiné zástupné výrazy jako panini nebo (řetězec rychlého občerstvení s čínským jídlem) Panda express. Důvodem bylo omezování obsahu, který se zmiňoval o pandemii, čímž se platformy snažily bojovat proti dezinformacím.

Mladí lidé zase začali mluvit o možnosti "stát se neživým", aby mohli volně diskutovat o sebevraždě, zatímco lidé nabízející sexuální služby, kteří se s automatizovanou cenzurou potýkají dlouhodobě, se na tiktoku označují za "účetní" a používají obrázek kukuřice (anglicky "corn") jako odkaz na pornografii (anglicky "porn"). V poslední době uživatelé přijímají podobné praktiky v debatách o válce na Ukrajině, přičemž je země označována ikonkou slunečnice.

Eufemismy jsou obzvláště běžné v radikalizovaných či jinak nebezpečných komunitách, jako jsou například skupiny podporující poruchy příjmu potravy. Jistý článek výzkumníků z Georgijského technologického institutu dospěl k závěru, že složitost těchto kódů se postupně zvyšovala. Facebookové skupiny odmítačů vakcín se zase loni začaly označovat jako "taneční party" nebo "večírky", zatímco influenceři odrazující od očkování na instagramu se o očkovaných lidech vyjadřovali jako o "plavcích".

Takovéto úhybné manévry jsou starší než jakákoli sociální síť nebo samotný internet. Po vzniku prvních on-line fór se začaly projevovat v podobě slangu leetspeak, který stál na alternativním pravopisu. Na moderním internetu je ovšem algoritmické třídění obsahu všudypřítomné a výsledkem bývá často umlčování důležitých debat a komunit vytlačených na okraj společnosti.

Příkladem jsou konverzace o sexuálních menšinách nebo těhotenství a menstruaci. Kathryn Crossová, která vede organizaci nabízející uskladnění krve z pupeční šňůry, říká, že na tiktoku jsou příspěvky na tato témata běžně znevýhodňované a že slova jako sex, menstruace a vagína používá jen s upraveným hláskováním nebo je nahrazuje jinými. Mnozí uživatelé prý místo anglického slova pro bradavky (nipples) říkají "nip nops".

"Skutečnost je taková, že technologické společnosti používají automatizované nástroje na moderování obsahu už velmi dlouho, a jakkoli je to prezentováno jako sofistikované strojové učení, často je to jen seznam slov považovaných za problematické," míní Ángel Díaz z právnické fakulty Kalifornské univerzity v Los Angeles, který se zabývá technologiemi a rasovou diskriminací.

Podle Evan Greerové, která vede neziskovou organizaci Fight for the Future bojující za práva v digitální sféře, je snaha vymýtit na platformách specifická slova pošetilá. "Zaprvé to ve skutečnosti nefunguje," řekla. "Lidé, kteří se na platformách snaží organizovat skutečně škodlivé činnosti, jsou dost dobří ve vymýšlení způsobů, jak tyto systémy obcházet. Zadruhé to má nevyžádané účinky na vyjadřování," pokračovala. Společnost je podle ní v ošemetné situaci po letech "pomýlených žádostí", aby platformy rychle a ve větší míře odstraňovaly obsah.

Výsledky dokumentuje například web Zuck Got Me For ("Zuck mě dostal za"), kde se lidé mohou podělit o ukázky nesmyslných blokací na instagramu, tedy síti vlastněné společností Meta Marka Zuckerberga. Správkyně stránky známá jako Ana v manifestu o svém projektu mimo jiné radí, jak na internetu uniknout jazykovým filtrům. "Když porušíte uživatelské podmínky, možná už nebudete moci požívat vulgarismy nebo negativní výrazy jako 'nesnáším', 'zabít', 'škaredý', 'blbý' atd," vysvětluje. "Já často místo 'nesnáším to a to' používám 'opak od miluju to a to'," napsala Ana.

Ovšem s tím, jak algospeak nabírá na popularitě a zástupné výrazy se stávají součástí běžné hantýrky, uživatelé zjišťují, že musí jít o krok dál. Platformy si například začnou všímat, že lidé píší "seggs" místo slova sex, a někteří uživatelé začnou hlásit, že ani jejich kódy už neprochází. "Mění se to na hru kočky s myší," popisuje lingvistka Gretchen McCullochová.

Neznamená to, že veškeré snahy o potlačení toxických projevů jsou marné. Podle aktivistky Greerové je ovšem třeba upřednostnit prvotní příčiny. "Agresivní moderování nikdy nebude skutečnou odpovědí na škody, které pozorujeme kvůli podnikatelským praktikám velkých technologických společností," uvedla. Řešení podle ní může přijít jen od politiků a úřadů, byť je přesvědčená, že "nikdy nebudeme schopni vyčistit internet".

ON-LINE 89. den války: Ruská armáda chce podniknout útok na Slovjansk

23.05.2022 08:50 Rusko na Ukrajině soustředí své síly u východoukrajinského Severodoněcku, od Izjumu chystá další…

Ukrajinský soud odsoudil ruského vojáka za zastřelení civilisty na doživotí

23.05.2022 13:28 Ukrajinský soud dnes odsoudil na doživotí ruského vojáka za zavraždění neozbrojeného civilisty,…

Na Ukrajině byly zřejmě nasazeny proti ruským okupantům i raketomety z…

22.05.2022 22:07 České raketomety RM-70 byly již nasazeny do bojů proti ruským invazním silám, které napadly…

Kavárna dostala pokutu poté, co na ni zákazník zavolal policii kvůli ceně…

22.05.2022 11:27 Kavárna v italské Florencii dostala pokutu 1000 eur (24.670 korun) poté, co se zákazník rozčílil…

Počasí bude mít tento týden do tropů daleko. Ochlazení s sebou přinese déšť

23.05.2022 06:30 Letní teploty z minulého týdne se v tom nadcházejícím opakovat nebudou. Ochladí se a v některých…

Generace Z visí na kryptoměnách a NFT. Hrozby ztráty peněz a závislosti…

19.05.2022 09:24 Možnost rychlého zisku mladé lidi vždy lákala k investicím do rizikových aktiv. Pro generaci Z jsou…

Koupím Coca-Colu a vrátím do ní kokain, napsal Musk

28.04.2022 10:21 Šéf společností Tesla a SpaceX Elon Musk, který tento týden dosáhl dohody ohledně převzetí firmy…

Počet kybernetických útoků v Česku se v souvislosti s válkou výrazně…

22.04.2022 15:14 Počet kybernetických útoků v Česku se v souvislosti s válkou na Ukrajině výrazně nezvýšil. Trvalý…

Související:

Právě se děje

reklama