Falešné video odhalilo sílu AI. Smyšlená zpráva o převratu ve Francii otřásla celým světem

Během krátké doby nasbíral tento příspěvek miliony zhlédnutí a vyvolal zmatek i na nejvyšších diplomatických úrovních. Ukázalo se, že proti síle umělé inteligence jsou v první fázi bezmocní i ti nejmocnější světoví lídři.

Falešná zpráva se šířila prostřednictvím krátkých videí na sociální síti Facebook pod hlavičkou neexistujícího kanálu „Live 24“. Divákům se naskytl pohled na reportérku, za jejímž chrbtem blikala policejní světla a nad osvětlenou Eiffelovou věží kroužily vrtulníky.

Celá scéna byla doplněna o záběry ozbrojených vojáků a davů přihlížejících občanů, což mělo navodit dojem autentického krizového zpravodajství přímo z místa dění. Ve skutečnosti se však jednalo o propracovanou montáž vytvořenou pomocí generativní umělé inteligence.

Dopad této lži pocítil Emmanuel Macron osobně, když mu jeden z afrických prezidentů zaslal znepokojenou textovou zprávu s dotazem, co se v jeho vlasti skutečně děje. Francouzský prezident přiznal, že ho situace zpočátku spíše pobavila, ale velmi rychle si uvědomil její nebezpečnost pro stabilitu země.

Video publikované pod anonymním uživatelským jménem totiž v té době vidělo už přes třináct milionů lidí po celém světě. Macron proto okamžitě pověřil svůj technický tým, aby zajistil stažení škodlivého obsahu ze všech hlavních sociálních sítí.

K velkému překvapení prezidentského paláce však technologický gigant Meta, který provozuje Facebook, žádost o okamžité odstranění nejprve zamítl. Společnost argumentovala tím, že video údajně neporušuje její interní pravidla pro používání platformy.

Macron tento postoj ostře zkritizoval během své návštěvy Marseille s tím, že digitální platformy tímto způsobem ohrožují suverenitu demokracií a hazardují s veřejnou bezpečností. Podle něj je alarmující, že ani hlava státu nemá v digitálním prostoru dostatečné nástroje k zastavení takto nebezpečné dezinformace.

Situace úzce souvisí s nedávným rozhodnutím Marka Zuckerberga výrazně omezit kontrolu faktů na svých platformách, což mnozí vnímají jako ústupek politickému tlaku ve Spojených státech. Zakladatel Mety se nechal slyšet, že dosavadní fact-checking byl v minulosti příliš politicky zaujatý a podkopával důvěru uživatelů.

Tento liberální přístup k obsahu však v praxi znamená, že se prokazatelné lži o státních převratech mohou šířit téměř nekontrolovaně. Francouzský prezident tak narazil na zeď v podobě pravidel amerických korporací, která jsou v tomto případě nadřazena zájmům cizích vlád.

Inkriminované video zůstalo on-line několik dní a bylo doplněno pouze drobným varováním, že obsah mohl být digitálně upraven. Definitivně z platformy zmizelo až ve středu, tedy tři dny poté, co na něj Macron oficiálně a důrazně upozornil.

Nejedná se přitom o ojedinělý incident, neboť podobné falešné zprávy zneužívající vizuální styl známých médií se v poslední době objevují opakovaně. Jen o několik týdnů dříve se internetem šířilo jiné video o převratu, které zneužilo značku rozhlasové stanice RFI a zasáhlo miliony uživatelů.

Boj proti fake news vytvořených umělou inteligencí se tak stává jednou z největších výzev současné mezinárodní politiky. Celý případ jasně ukazuje, jak snadno lze pomocí moderních technologií vyvolat globální napětí a nejistotu.

Francouzská vláda nyní zvažuje, jakým způsobem posílit svou legislativu, aby v budoucnu nemusela čekat na milost technologických miliardářů ze zámoří. Demokratické instituce se totiž tváří v tvář bleskovému šíření digitálních lží zdají být zatím velmi špatně vybaveny a zranitelné.