Facebook vytáhl proti manipulaci na internetu, hodlá mazat videa "deepfake"

Facebook bude ze své stejnojmenné sociální sítě odstraňovat sofistikovaná podvodná videa, jejichž cílem je zmanipulovat diváky. Zákaz se podle sdělení firmy týká zejména obsahu vytvářeného prostřednictvím metod strojového učení, který se označuje termínem "deepfake". Povoleny naopak podle všeho zůstávají jednodušší formy manipulace, které v poslední době opakovaně vyvolávají rozruch na americké politické scéně.

Deepfakes podle Facebooku představují pro digitální platformy a společnost obecně vážný problém. Na internetu jsou stále relativní vzácností, jejich užívání ale sílí, napsala na firemním webu viceprezidentka Monika Bickertová.

Nedávno se objektem falešného videa tohoto typu stal i šéf Facebooku Mark Zuckerberg, když jeden britský umělec upravil úryvek z jeho televizního interview. Zuckerberg se ve věrohodně vyhlížejícím klipu mimo jiné chlubil tím, že má absolutní moc nad "ukradenými daty miliard lidí".

Z instagramu, jehož vlastníkem je už několik let Facebook, příspěvek do dneška stažen nebyl. Na největší sociální síti světa už by ale nyní zřejmě byl zakázán. "Budeme odstraňovat zavádějící upravený obsah,... půjde-li o produkt umělé inteligence či strojového učení vytvořený spojením, nahrazením či překrytím obsahu ve videu, čímž je navozen dojem, že je (to video) autentické," vysvětluje Bickertová.

Zákaz se vztahuje i na jinak upravená videa, která by mohla uživatele přesvědčit, že osoba na obrazovce "pronesla slova, která ve skutečnosti neřekla". Editace obsahu přitom musí být za hranicí pouhého vylepšení kvality a musela by být provedena tak, že pro "průměrného člověka" by nebyla zjevná.

Mnozí analytici nicméně mají za to, že alespoň v nejbližší době mohou větší hrozbu než "deepfakes" představovat mnohem jednodušší formy manipulace.

Média v souvislosti s novým opatřením Facebooku připomínají zejména loňskou kauzu s předsedkyní americké Sněmovny reprezentantů Nancy Pelosiovou. Na facebooku a dalších platformách se loni šířily zpomalené záběry z jejího projevu, které byly prezentovány jako důkaz, že Pelosiová je opilá nebo trpí nějakými zdravotními potížemi.

"Upravené video předsedkyně Pelosiové nesplňuje měřítka tohoto opatření a nebylo by smazáno. Blokována budou jen videa vytvořená umělou inteligencí, která ukazují lidi, jak říkají fiktivní výroky," sdělil Facebook agentuře Reuters.

Bickertová v blogovém příspěvku doplňuje, že ohlášený zákaz se netýká ani parodií a satiry či videí, v nichž chybějí části vyjádření mluvčího, nebo v nichž je změněno pořadí výroků. Sítem by tak prošel i hojně sdílený klip z minulého týdne, v němž byla vytržena z kontextu slova bývalého amerického viceprezidenta Joea Bidena ve snaze zobrazit ho jako rasistu.

Výjimka pro parodie a satiru by podle deníku The Washington Post mohla vést k ošemetným polemikám při posuzování manipulativního obsahu. Mezery v novém opatření Facebooku vzbuzují obavy také u profesora Kalifornské univerzity Hanyho Farida, který se specializuje na analýzu digitálních záběrů. Zákaz je podle něj příliš "úzce vymezen".

"Tato zavádějící videa (s Pelosiovou a Bidenem) byla vytvořena jednoduchými technologiemi a neopírala se o metody založené na umělé inteligenci, přesto byla přinejmenším tak zavádějící jako deepfake," řekl Farid. "Proč se zaměřovat pouze na deepfakes a ne na širší problém s úmyslně manipulativními videi?" tázal se.

Facebook se hájí tím, že v případech, kdy daný příspěvek neporušuje pravidla platformy, může být stále video po analýze označeno za "falešné nebo částečně falešné". Provozovatel této sociální sítě následně omezí distribuci takového příspěvku a připojí k němu upozornění nezávislých kontrolorů. Podle Bickertové je uvedený postup lepší, než kdyby se videa mazala, protože "by stále byla dostupná jinde na internetu".

Související

Deepfake Babiš

Falešný Babiš varuje před deepfake technologiemi, problémem moderní doby

Českým internetem se šíří nové tzv. deepfake video. Falešný premiér Andrej Babiš na něm varuje veřejnost před novými technologiemi v oblasti dezinformací. Za unikátním spotem stojí pirátská europoslankyně Markéta Gregorová. Ta chce problém dezinformací do budoucna řešit legislativně na evropské úrovni.
Ilustrační fotografie

Inovace v rukou dezinformátorů. Jaké technologie užívají?

Stejně jako daly moderní technologie k dispozici spoustu nástrojů, které nám dobře slouží a bez kterých bychom si málem nedokázali představit svůj každodenní život, dávají spoustu silných nástrojů také pro šíření dezinformací, manipulací a propagandy.

Více souvisejících

Deepfake Facebook sociální sítě internet Mark Zuckerberg (majitel sítě Facebook)

Aktuálně se děje

včera

včera

včera

Ruská armáda, ilustrační foto

Obrana proti balistickým střelám je extrémně obtížná. Rusko se snaží Západ zastrašit, říká Drmola

Rusko zřejmě vypálilo proti ukrajinskému Dnipru balistickou střelu. Bezpečnostní expert Jakub Drmola z brněnské Masarykovy univerzity upřesnil, že není úplně jisté, zda šlo o střelu mezikontinentální. Raketa středního doletu ale dokáže napáchat obrovské škody – vzhledem k návratové rychlosti hlavic je obrana proti nim extrémně náročná. Velkou roli navíc hraje fakt, že nikdo neví, co hlavice dané rakety nese.

včera

včera

Lidé na Ukrajině prchají před válkou

Mír, ale za jakou cenu? Ukrajinci, kteří utekli ze země, promluvili

Více než 3 000 ukrajinských uprchlíků našlo nový domov v hrabství Essex díky vládnímu programu Homes for Ukraine, který poskytuje možnost ubytování u místních hostitelů. Navzdory příslibům nově zvoleného amerického prezidenta Donalda Trumpa ukončit válku však mnozí Ukrajinci odmítají mír na úkor ztráty území.

včera

COP29

Klimatická dohoda padla. Summit COP29 přinesl jen zklamání a hořkou pachuť

Předposlední den klimatického summitu COP29 v Ázerbájdžánu přinesl výrazné zklamání. Dlouho očekávaný návrh dohody, který měl stanovit konkrétní cíle pro financování klimatických opatření v rozvojových zemích, byl široce kritizován za svou nejasnost. Místo konkrétních čísel obsahoval návrh pouze symbol „X“, což vyvolalo obavy a rozhořčení mezi bohatými i chudšími státy.

včera

Itálie, ilustrační foto

Vadí vám Trump? Prodáme vám dům za dolar, vyzývá italská vesnice Američany

V reakci na výsledek prezidentských voleb v USA se italská vesnice Ollolai na Sardinii rozhodla nabídnout Američanům šanci začít nový život v Evropě. Tento krok je součástí dlouhodobého úsilí vesnice o revitalizaci po desetiletích depopulace, kdy se vesnice potýká s úbytkem obyvatel. Ollolai se rozhodla nabídnout zchátralé domy za cenu jednoho eura (asi 25 korun), aby přilákala nováčky, kteří by pomohli obnovit její úpadek.

včera

včera

včera

Tedros Adhanom Ghebreyesus

Generální ředitel WHO skončil v nemocnici

Generální ředitel Světové zdravotnické organizace (WHO) Tedros Adhanom Ghebreyesus byl propuštěn z nemocnice Samaritano Barra da Tijuca v Rio de Janeiru, kde strávil noc pod lékařským dohledem.

včera

včera

včera

včera

včera

včera

Benjamin Netanjahu, známý pod přezdívkou Bibi

ICC vydal zatykače na Netanjahua a Gallanta

Mezinárodní trestní soud (ICC) vydal zatykače na izraelského premiéra Benjamina Netanjahua a bývalého ministra obrany Yoava Gallanta kvůli údajným válečným zločinům. Soud, který sídlí v Nizozemsku, podle CNN uvedl, že má „rozumné důvody“ se domnívat, že Netanjahu nese trestní odpovědnost za válečné zločiny, mezi něž patří „použití hladovění jako metody války“, stejně jako za „zločiny proti lidskosti zahrnující vraždy, pronásledování a jiné nelidské činy“.

včera

včera

včera

včera

Nové varování meteorologů. Sněhu bude až 15 centimetrů, zesílí i vítr

Na Moravě a ve Slezsku může napadnout ještě o pár centimetrů více, než se původně předpokládalo. Vyplývá to z nejnovějšího znění výstrahy, v němž Český hydrometeorologický ústav (ČHMÚ) upřesnil její časovou a územní platnost. Meteorologové zároveň přidali varování před silným větrem. 

Zdroj: Jan Hrabě

Další zprávy