KOMENTÁŘ | Zpochybnit půjde vše. Turkova kauza ukazuje nebezpečí AI

Krátce poté, co veřejný prostor zaplavily snímky facebookových příspěvků připisovaných hlavní tváři Motoristů, které označují pokus o vraždu malé romské dívky za „polehčující okolnost“ a ženy za méněcenné, prezentují otevřený rasismus a sympatie k nacismu, útočí na homosexuály a hrozí násilím představitelům vybraných politických a myšlenkových proudů, vyrazil Turek se svými stoupenci do protiútoku. Zveřejněný materiál odmítají jako podvrh a jeho zveřejnění jako pokus o diskreditaci nekonformního politika, jehož jméno se v posledních dnech skloňovalo v souvislosti s významným vládním postem.

Nemám ambice posuzovat, zda je Turek skutečně autorem inkriminovaných zpráv. Stejně tak si nemyslím, že by se od toho mělo odvíjet jeho další politické působení. Pro výkon jakékoliv veřejné funkce jej totiž měly diskvalifikovat už dříve zveřejněné materiály, jejichž pravost nezpochybnil. Naneštěstí se ukázalo, že pro dostatečně velkou část české společnosti je hajlování, nošení nacistických insignií a vyjadřování podpory otevřeně neonacistickým organizacím přijatelné, obzvlášť označí-li je dotyčný za nadsázku či černý humor. Z celkového kontextu by přitom soudně uvažující jedinec měl být schopen nahlédnout účelovost takového vysvětlení.

O tom, že čeští voliči vyslali minulý rok do europarlamentu člověka, který přinejmenším v minulosti podporoval neonacistická hnutí a jejich ideologii, není sporu. V tomto světle je děsivé (a vypovídající), že Turek byl v povolebních jednáních zmiňován jako horký kandidát na ministra zahraničních věcí. Nově zveřejněný materiál totiž pouze dál otevírá okno do jeho dávno známého myšlenkového světa. Bude-li ovšem akceptován jako autentický. Motoristé, jejichž je Turek „čestným prezidentem“, to odmítají a hrozí trestním oznámením.

Důležitý je jeden z hlavních argumentů Turkových zastánců. Upozorňují, že za pomoci nástrojů generativní AI mohl zveřejněný obsah nechat vytvořit kdokoliv doslova lusknutím prstu. Jako důkaz nezřídka přikládají vlastní „screenshoty“ z dílny AI, v nichž se konkrétní novináři přiznávají k manipulaci a omlouvají se za své selhání. Celá kauza tak ukazuje mnohem hlubší problém, než je spor o autenticitu odporných, zčásti patrně trestných výroků jedné politické komety.

Od masového rozšíření rozhlasu a televize a následně i internetových médií se veřejná debata a politická soutěž silně odvíjejí od audiovizuálního obsahu. Postoje jedinců ke klíčovým společenským a politickým otázkám formují v nemalé míře záběry, které jim nabízí zpravodajství. Neopatrný výrok politického činitele zaznamenaný na mikrofon může vést například k pádu vlády nebo zcela dramaticky ovlivnit výsledky voleb. Média, zájmové skupiny i politická reprezentace si tuto skutečnost velmi dobře uvědomují. Potenciál audiovizuální propagandy se ostatně v posledním století prokázal nesčetněkrát napříč režimy a kulturními okruhy.

V dobách, kdy audiovizuální obsah tvořily výhradně mikrofony a objektivy, bylo nejdostupnějším a nejefektivnějším způsobem manipulace selektovat, co se dostane k očím a uším cílového publika. Alternativu představovaly zinscenované záběry. Velkým limitem však byla míra jejich přesvědčivosti, která příliš závisela na množství financí a času, který bylo možné do jejich vytvoření investovat. Ve světě generativní AI je – nebo v budoucnu bude – vše jinak.

AI dnes dokáže vytvářet obrázky, které od skutečných fotografií nemá laik šanci rozpoznat. Často jde o oříšek i pro odborníky. Dramatický rozvoj těchto nástrojů směřuje ovšem i do sféry audia a videa. Pionýrské pokusy ovlivňovat veřejné mínění za pomoci takto vytvořeného obsahu jsme již zaznamenali i v České republice. Přestože oproti statickým obrázkům jsou výsledky stále ještě značně nedokonalé, není sebemenší důvod pochybovat, že v dohledném časovém horizontu budou působit víceméně nerozeznatelně od záznamů reality.

Nebezpečí plyne na obě strany. Nejde jen o to, že směřujeme ke stavu, kdy prakticky každý člověk se základní schopností obsluhovat počítač dokáže vytvořit zcela realistické audio/video k diskreditaci jiného jedince nebo podpoře svých pochybných tvrzení. V takovém světě bude také velmi snadné zpochybnit prakticky veškerý audiovizuální obsah, bez ohledu na to, že jde o zachycení reality. 

Zda je Turek autorem zveřejněných příspěvků, ví jen on sám a osoba, která materiál Deníku N předala. Pravda se patrně ukrývá také někde na serverech provozovatele Facebooku, společnosti Meta. Spoléhat na její součinnost by bylo patrně iluzorní. Bez ohledu na výsledek případného soudního sporu je tak dosavadní průběh Turkovy poslední kauzy jen malou, avšak velmi výstižnou ochutnávkou nebezpečí, které představuje další rozmach generativní AI. Obvinit na základě zdánlivě jasných důkazů půjde kohokoliv. A naopak, jakýkoliv skutečný důkaz bude možné snadno odmítat. Pro fungování společnosti to nejsou dobré vyhlídky.

Autor je historik.