Nejnebezpečnější zbraň zítřka? Temné vize tvůrců sci-fi se začínají naplňovat

V loňském roce provedli dva vědci z bezpečnostní firmy ZeroFOX experiment, jehož cílem bylo zjistit, zda v ovlivňování uživatelů Twitteru jsou lepší lidé nebo AI. Výzkumníci naučili AI, aby studovala chování uživatelů sociálních sítí a poté navrhla a implementovala vlastní phishingové (nástroje internetových pirátů, kteří se s jejich pomocí mohou dostat k přístupovým heslům).

Při testování umělý hacker, SNAP_R, dokázal produkovat 6,75 tweetů za minutu a z 800 vyhlédnutých obětí přilákat 275. Naproti tomu zaměstnanec společnosti Forbes Thomas Fox-Brewster, který se zúčastnil experimentu, dokázal vyprodukovat 1, 075 tweetů za minutu a přilákat jen 49 uživatelů. AI se tedy ukázala být jako podstatně lepší než jeho lidský konkurent.

Ačkoliv to byl jen experiment, dostatečně ukázal, že hackeři jsou už v pozici, kdy mohou používat AI pro své hanebné cíle. A ve skutečnosti ji pravděpodobně již používají, i když je těžké to dokázat. V červenci v Black Hat USA 2017 se stovky vedoucích odborníků na kybernetickou bezpečnost shromáždili v Las Vegas, aby diskutovali o tomto problému a dalších hrozivých hrozbách nových technologií. V průzkumu Cylance, který se konal během konfese, byli účastníci dotazováni, zda kriminální hackeři budou v příštím roce využívat AI pro své útoky, na což 62% dotázaných odpovědělo kladně.

Široké možnosti umělé inteligence pro neblahé účely

„Hackeři používají umělou inteligenci jako zbraň již po nějakou dobu," tvrdí Brian Wallace, vedoucí Cylance Lead Security Data Scientist, v rozhovoru pro Gizmodo. „Dává to dokonalý smysl, protože hackeři mají problém s měřítkem, snaží se zaútočit na co nejvíce lidí, zasáhnout co nejvíce cílů, a to vše zatímco se snaží sami snížit rizika. Umělá inteligence, zvláště strojové učení (machine learning - podoblast umělé inteligence, zabývající se algoritmy a technikami, které umožňují počítačovému systému učit se) jsou perfektním nástrojem pro dosažení jejich cílů.“

Deepak Dutt, zakladatel a generální ředitel společnosti Zighra, start-upu zaměřeného na mobilní bezpečnost, tvrdí, že je velmi pravděpodobné, že v blízké budoucnosti bude sofistikovaná AI použita pro uzurpaci velkého množství dat z veřejného sektoru a sociálních sítí k získání osobně identifikovatelných informací či k automatickému sledování emailů a textových zpráv k vytváření personálních podvodných emailů. Též může být použita snadnějšímu mutování malwaru a ransomwaru a k inteligentnějšímu vyhledávání a využívání zranitelných míst v systému.

Podle Dutta AI tímto způsobem už někteří hackeři AI tímto způsobem používají a jejich zaměstnavateli mohou být Čína, Rusko nebo země z východní Evropy. Podle něj jsou to však až nové techniky strojového učení jako Deep Learning,  které skutečně využijí potenciálu AI pro tyto účely. Deep Learning, také známé jako hierarchické učení, aplikuje velké neuronové sítě na počítačový rozhled, rozpoznávání řeči, filtrování sociálních sítí a mnoho dalších složitých úkolů, ve kterých se AI projevuje jako úspěšnější než lidská inteligence.

V dnešní době je mnohem vzácnější najít lidského hackera, který osobně jde po individuálním cíli a mnohem běžnějším přístupem je automatizace útoků pomocí nástrojů AI a strojového učení. AI může vytvářet složité a specificky cílené skripty s mírou a úrovní sofistikovanosti, která dalece překračuje možnosti a schopnosti jednotlivých lidských hackerů.

Staffan Truvé, hlavní technik ve společnosti Recorded Future, si myslí, že AI však zatím není zcela používána hackery, protože zatím fungují „tradiční metody.“ Proč by člověk ztrácel čas a peníze vyvíjením nových sofistikovanějších přístupů, když mu postačí obyčejná brutální síla, pokládá řečnickou otázku. Nicméně přiznává, že AI se stále ve větší míře bude objevovat v sadě nástrojů „zlých chlapků.“

Nejlepší obrana nebo skrytá hrozba?

Pro bezpečností experty vyvstává těžká otázka, jak se tomu bránit. Jejich největším štítem je – jaká ironie – tatáž AI, kterou se hackeři pokouší osvojit si pro vlastní účely. To představuje zároveň jedno z největších nebezpečí. Hackeři a jejich protivníci mohou odstartovat nové závody ve zbrojení, které spíše světu uškodí než pomohou. AI na obou stranách se stane obávanou a ničivou zbraní.

Za znepokojující lze v tomto ohledu považovat organizování jakýchsi virtuálních turnajů ve stylu Capture The Flaf (získej vlajku), organizovaných pokročilým výzkumným křídlem Pentagonu (DARPA), ve kterých vývojáři AI staví svá „stvoření“ proti sobě a sledují, která AI přežije. Tento darwinovský proces postupné evoluce AI v podmínkách věčného zápasu o přežití nepochybně na mysl přivádí temné obavy sci-fi autorů, popisujících den, kdy se vzbouřená AI rozhodla zbavit se svých méně vyspělých konkurentů podobně jako Homo Sapiens zlikvidoval neandrtálce. Snad takový scénář zůstane jen záležitostí lidské fantazie.