Facebook bude ze své stejnojmenné sociální sítě odstraňovat sofistikovaná podvodná videa, jejichž cílem je zmanipulovat diváky. Zákaz se podle sdělení firmy týká zejména obsahu vytvářeného prostřednictvím metod strojového učení, který se označuje termínem "deepfake". Povoleny naopak podle všeho zůstávají jednodušší formy manipulace, které v poslední době opakovaně vyvolávají rozruch na americké politické scéně.
Deepfakes podle Facebooku představují pro digitální platformy a společnost obecně vážný problém. Na internetu jsou stále relativní vzácností, jejich užívání ale sílí, napsala na firemním webu viceprezidentka Monika Bickertová.
Nedávno se objektem falešného videa tohoto typu stal i šéf Facebooku Mark Zuckerberg, když jeden britský umělec upravil úryvek z jeho televizního interview. Zuckerberg se ve věrohodně vyhlížejícím klipu mimo jiné chlubil tím, že má absolutní moc nad "ukradenými daty miliard lidí".
Z instagramu, jehož vlastníkem je už několik let Facebook, příspěvek do dneška stažen nebyl. Na největší sociální síti světa už by ale nyní zřejmě byl zakázán. "Budeme odstraňovat zavádějící upravený obsah,... půjde-li o produkt umělé inteligence či strojového učení vytvořený spojením, nahrazením či překrytím obsahu ve videu, čímž je navozen dojem, že je (to video) autentické," vysvětluje Bickertová.
Zákaz se vztahuje i na jinak upravená videa, která by mohla uživatele přesvědčit, že osoba na obrazovce "pronesla slova, která ve skutečnosti neřekla". Editace obsahu přitom musí být za hranicí pouhého vylepšení kvality a musela by být provedena tak, že pro "průměrného člověka" by nebyla zjevná.
Mnozí analytici nicméně mají za to, že alespoň v nejbližší době mohou větší hrozbu než "deepfakes" představovat mnohem jednodušší formy manipulace.
Média v souvislosti s novým opatřením Facebooku připomínají zejména loňskou kauzu s předsedkyní americké Sněmovny reprezentantů Nancy Pelosiovou. Na facebooku a dalších platformách se loni šířily zpomalené záběry z jejího projevu, které byly prezentovány jako důkaz, že Pelosiová je opilá nebo trpí nějakými zdravotními potížemi.
"Upravené video předsedkyně Pelosiové nesplňuje měřítka tohoto opatření a nebylo by smazáno. Blokována budou jen videa vytvořená umělou inteligencí, která ukazují lidi, jak říkají fiktivní výroky," sdělil Facebook agentuře Reuters.
Bickertová v blogovém příspěvku doplňuje, že ohlášený zákaz se netýká ani parodií a satiry či videí, v nichž chybějí části vyjádření mluvčího, nebo v nichž je změněno pořadí výroků. Sítem by tak prošel i hojně sdílený klip z minulého týdne, v němž byla vytržena z kontextu slova bývalého amerického viceprezidenta Joea Bidena ve snaze zobrazit ho jako rasistu.
Výjimka pro parodie a satiru by podle deníku The Washington Post mohla vést k ošemetným polemikám při posuzování manipulativního obsahu. Mezery v novém opatření Facebooku vzbuzují obavy také u profesora Kalifornské univerzity Hanyho Farida, který se specializuje na analýzu digitálních záběrů. Zákaz je podle něj příliš "úzce vymezen".
"Tato zavádějící videa (s Pelosiovou a Bidenem) byla vytvořena jednoduchými technologiemi a neopírala se o metody založené na umělé inteligenci, přesto byla přinejmenším tak zavádějící jako deepfake," řekl Farid. "Proč se zaměřovat pouze na deepfakes a ne na širší problém s úmyslně manipulativními videi?" tázal se.
Facebook se hájí tím, že v případech, kdy daný příspěvek neporušuje pravidla platformy, může být stále video po analýze označeno za "falešné nebo částečně falešné". Provozovatel této sociální sítě následně omezí distribuci takového příspěvku a připojí k němu upozornění nezávislých kontrolorů. Podle Bickertové je uvedený postup lepší, než kdyby se videa mazala, protože "by stále byla dostupná jinde na internetu".
19. listopadu 2024 15:33
Nad Googlem se stahují mračna. Ministerstvo chce, aby prodal Chrome, v plánu je mu sebrat i Android
Související
Falešný Babiš varuje před deepfake technologiemi, problémem moderní doby
Inovace v rukou dezinformátorů. Jaké technologie užívají?
Deepfake , Facebook , sociální sítě , internet , Mark Zuckerberg (majitel sítě Facebook)
Aktuálně se děje
před 1 hodinou
Počasí na Štědrý den: Bílé Vánoce budou jen někde, vyplývá z předpovědi
včera
Karel III. o Vánocích neuvidí dva prince. Do Sandringhamu nepřijedou
včera
Schick pokračuje ve výtečné fazóně. Čtyřmi góly proti Freiburgu přeskočil Kollera
včera
Útočník z Magdeburgu míří do vazby. Bilance páteční tragédie se změnila
včera
Počasí se ochladilo a déšť se mění ve sníh. Meteorologové poskytli předpověď
včera
RECENZE: Americký muzikálový hit Čarodějka protíná Hollywood a TikTok
včera
Robert Fico je u Putina v Kremlu
včera
Ukrajinci zaútočili na Kazaň. Putin teď slibuje mnohem větší destrukci na Ukrajině
včera
Poslední šance si vyřídit všechno potřebné. Pošta sdělila, jak bude mít otevřeno
včera
Davidovou trápí vyhřezlá ploténka. Na operaci se však zatím nechystá
včera
Bramborový salát podle Magdaleny Dobromily Rettigové
včera
Prosincové projevy politiků: Pavel bude poslední v řadě. Promluví i Zeman
včera
Důchody dostanou lidé do Štědrého dne. Příští rok už to bude o Vánocích jinak
včera
Rok od střelby na FF UK: Oběti se spravedlnosti nedočkají, přestože viníka smrti 14 lidí známe
včera
Otevírací doba o Vánocích. Pořádky se nemění, zákon mluví jasně
včera
Rok od tragédie, která změnila život mnoha lidem. Česko si připomíná nejhorší masovou střelbu v historii
Aktualizováno včera
OBRAZEM: Česko si připomnělo oběti tragédie na FF UK. Naší společností otřásla, říká Fiala
21. prosince 2024 21:56
Kate a William dojali Brity vánoční pohlednicí. Zachycuje klíčový moment tohoto roku
21. prosince 2024 20:30
Česká hymna poprvé zazněla před 190 lety. V Tylově Fidlovačce
21. prosince 2024 19:33
Policii znepokojuje, co se děje na D1 před Brnem. Ukázala záběry nebezpečných nehod
Dálnice D1 spojující Prahu a Brno je nejvytíženější českou dálnicí, na které často nastávají dopravní komplikace. Viníky jsou mnohdy samotní řidiči jako aktéři zbytečných a nebezpečných nehod. Policie se proto rozhodla ukázat záběry z několika havárií a apelovat na řidiče, aby byli za volantem obezřetní.
Zdroj: Jan Hrabě