Nečekaný objev: Umělá inteligence může výrazně zvýšit pravděpodobnost další pandemie

Výzkum, který byl exkluzivně sdílen s magazínem Time, ukazuje, že nové generace AI, jako jsou modely od společností OpenAI a Anthropic, jsou již dnes schopny poskytovat velmi přesné rady v oblasti virologie – dokonce i amatérům, kteří by se mohli pokusit vytvořit smrtící virus.

Podle Setha Donougheho, výzkumníka z neziskové organizace SecureBio a spoluautora studie, byla dosud hlavní překážkou při tvorbě biologických zbraní právě složitost procesu a nedostatek odborných znalostí. Nyní však AI dokáže tento problém obejít – nabízí totiž rady na úrovni zkušených virologů. To znamená, že vytvoření nebezpečného patogenu by teoreticky zvládl mnohem širší okruh lidí než dříve.

Studie probíhala mezi prosincem 2024 a únorem 2025. Výzkumný ústav pro predikce budoucnosti (Forecasting Research Institute) oslovil 46 odborníků na biologickou bezpečnost a 22 tzv. superpředpovídačů – lidí, kteří v minulosti prokázali mimořádně přesné odhady budoucích událostí. Průměrná odhadovaná pravděpodobnost pandemie způsobené člověkem byla 0,3 % za rok.

Vědci však položili ještě jednu otázku: co se stane, pokud AI dosáhne úrovně týmu expertů při řešení složitých virologických problémů? Odpověď: pravděpodobnost pandemie vyskočí na 1,5 %, tedy pětinásobně. A právě tuto hranici již dnes AI podle Donougheho testů překročila – nástroje jako ChatGPT a Claude dokáží předčit i PhD odborníky v obtížných virologických úkolech.

Zjištění potvrzují dřívější obavy, které v posledních měsících vznesly samy technologické společnosti. OpenAI i Anthropic veřejně připustily, že jejich systémy mohou být zneužity ke konstrukci biologických zbraní, a proto zavedly nová ochranná opatření.

Navzdory znepokojivým výsledkům si ale odborníci uvědomují i limity své metodiky. Předpovídání tak vzácných jevů, jako jsou pandemie, je mimořádně složité. Mnozí z dotázaných navíc podcenili rychlost pokroku AI – většina se domnívala, že systém překonávající virologické experty vznikne až po roce 2030, což se ale už nyní ukazuje jako mylný odhad.

Josh Rosenberg, výkonný ředitel Forecasting Research Institute, přesto trvá na tom, že studie poukazuje na reálný a rostoucí problém. „Zdá se, že současné schopnosti AI mohou skutečně zvýšit riziko epidemie způsobené člověkem,“ uvedl. Upozorňuje však, že situace není bezvýchodná a existují způsoby, jak rizika zmírnit.

Studie navrhuje dvě hlavní oblasti opatření. První zahrnuje technologická omezení samotných modelů – například posílení filtrů, které zabrání AI odpovídat na nebezpečné dotazy, omezení dostupnosti modelů s otevřenými váhami nebo zabránění jejich prolomení (tzv. jailbreaking).

Druhou oblastí jsou regulace v oblasti syntézy DNA. V současnosti totiž některé firmy nabízejí možnost objednat si biologický materiál na základě zaslané genetické sekvence – bez povinnosti ověřit, zda se nejedná o nebezpečný kód. Autoři studie navrhují, aby tyto laboratoře povinně prováděly kontrolu sekvencí a zavedly systém „poznej svého zákazníka“, který by zamezil zneužití.

Podle expertů by kombinace těchto opatření mohla riziko AI-podpořené pandemie snížit z 1,5 % na 0,4 %, tedy téměř zpět na výchozí hodnotu.

Rosenberg uzavírá, že nový typ rizika si zaslouží naši pozornost, ale zároveň nepanikaří. „Máme k dispozici funkční politická řešení. Jde o to je co nejdříve začít uplatňovat.“