Technologický pokrok v oblasti umělé inteligence (AI) podle nové odborné studie výrazně zvyšuje riziko uměle vyvolané pandemie. Odborníci varují, že současné schopnosti AI nástrojů mohou zpřístupnit biologické zbraně širší skupině lidí a tím pětinásobně zvýšit pravděpodobnost globální katastrofy.
Výzkum, který byl exkluzivně sdílen s magazínem Time, ukazuje, že nové generace AI, jako jsou modely od společností OpenAI a Anthropic, jsou již dnes schopny poskytovat velmi přesné rady v oblasti virologie – dokonce i amatérům, kteří by se mohli pokusit vytvořit smrtící virus.
Podle Setha Donougheho, výzkumníka z neziskové organizace SecureBio a spoluautora studie, byla dosud hlavní překážkou při tvorbě biologických zbraní právě složitost procesu a nedostatek odborných znalostí. Nyní však AI dokáže tento problém obejít – nabízí totiž rady na úrovni zkušených virologů. To znamená, že vytvoření nebezpečného patogenu by teoreticky zvládl mnohem širší okruh lidí než dříve.
Studie probíhala mezi prosincem 2024 a únorem 2025. Výzkumný ústav pro predikce budoucnosti (Forecasting Research Institute) oslovil 46 odborníků na biologickou bezpečnost a 22 tzv. superpředpovídačů – lidí, kteří v minulosti prokázali mimořádně přesné odhady budoucích událostí. Průměrná odhadovaná pravděpodobnost pandemie způsobené člověkem byla 0,3 % za rok.
Vědci však položili ještě jednu otázku: co se stane, pokud AI dosáhne úrovně týmu expertů při řešení složitých virologických problémů? Odpověď: pravděpodobnost pandemie vyskočí na 1,5 %, tedy pětinásobně. A právě tuto hranici již dnes AI podle Donougheho testů překročila – nástroje jako ChatGPT a Claude dokáží předčit i PhD odborníky v obtížných virologických úkolech.
Zjištění potvrzují dřívější obavy, které v posledních měsících vznesly samy technologické společnosti. OpenAI i Anthropic veřejně připustily, že jejich systémy mohou být zneužity ke konstrukci biologických zbraní, a proto zavedly nová ochranná opatření.
Navzdory znepokojivým výsledkům si ale odborníci uvědomují i limity své metodiky. Předpovídání tak vzácných jevů, jako jsou pandemie, je mimořádně složité. Mnozí z dotázaných navíc podcenili rychlost pokroku AI – většina se domnívala, že systém překonávající virologické experty vznikne až po roce 2030, což se ale už nyní ukazuje jako mylný odhad.
Josh Rosenberg, výkonný ředitel Forecasting Research Institute, přesto trvá na tom, že studie poukazuje na reálný a rostoucí problém. „Zdá se, že současné schopnosti AI mohou skutečně zvýšit riziko epidemie způsobené člověkem,“ uvedl. Upozorňuje však, že situace není bezvýchodná a existují způsoby, jak rizika zmírnit.
Studie navrhuje dvě hlavní oblasti opatření. První zahrnuje technologická omezení samotných modelů – například posílení filtrů, které zabrání AI odpovídat na nebezpečné dotazy, omezení dostupnosti modelů s otevřenými váhami nebo zabránění jejich prolomení (tzv. jailbreaking).
Druhou oblastí jsou regulace v oblasti syntézy DNA. V současnosti totiž některé firmy nabízejí možnost objednat si biologický materiál na základě zaslané genetické sekvence – bez povinnosti ověřit, zda se nejedná o nebezpečný kód. Autoři studie navrhují, aby tyto laboratoře povinně prováděly kontrolu sekvencí a zavedly systém „poznej svého zákazníka“, který by zamezil zneužití.
Podle expertů by kombinace těchto opatření mohla riziko AI-podpořené pandemie snížit z 1,5 % na 0,4 %, tedy téměř zpět na výchozí hodnotu.
Rosenberg uzavírá, že nový typ rizika si zaslouží naši pozornost, ale zároveň nepanikaří. „Máme k dispozici funkční politická řešení. Jde o to je co nejdříve začít uplatňovat.“
Související

Svět schválil historickou pandemickou dohodu. USA zůstávají stranou

Pandemie jsou pro demokratické státy zátěžovou zkoušku, upozornili vědci
pandemie , umělá inteligence (AI)
Aktuálně se děje
před 7 minutami

Nevyzpytatelné počasí: Prší více, než se čekalo. Hladiny řek už stoupají
před 28 minutami

Staré svatební pověry. Proč měla nevěsta plakat a co přinášel novomanželům déšť?
před 1 hodinou

Řeckem se šíří ničivé požáry. Kouř už se dostal až do Atén
před 2 hodinami

Zemřel legendární herec Jiří Krampol
před 2 hodinami

Izraelci místy pozastaví boje v Gaze. Palestincům slibují další humanitární pomoc
před 3 hodinami

Hasiči zasahovali v hospici v Čerčanech. Došlo i k evakuaci klientů
před 3 hodinami

Deštivé počasí překvapuje svou intenzitou. Meteorologové aktualizovali výstrahu
před 4 hodinami

Česko zasáhne deštivé počasí. Existuje několik scénářů
včera

Je to místo od místa. Meteorologové prozradili, jak rostou houby
včera

Fotbalisty Plzně trápila koncovka. Ženevě stačila k vítězství jedna akce
včera

Udělal to pro děti. Princ Harry se vydal ve stopách princezny Diany
včera

170 let od prvního vydání Babičky Boženy Němcové. Jak v knize popsala léto našich předků?
včera

Za vraždu seniora v pražské Krči hrozí výjimečný trest. Pachatel se přiznal
včera

Počasí v Česku se zásadně nezmění, naznačuje výhled na první srpnové dny
včera

Potrefená husa se ozvala. Lipavský ostře reagoval na další ruský výpad
včera

Nový model iPhone provázejí spekulace. Očekává se, že nebude tak tenký
včera

Chceme-li chránit demokracii, musíme chránit i její jazyk. S označením „dezolát“ by se mělo šetřit
Aktualizováno včera

Anonym vyhrožoval bombou v obchodních centrech v Praze
včera

Rusové vyšetřují tragickou leteckou nehodu. Mají jen jednu černou skříňku
včera
Počasí aktuálně: Bouřkami to jen začne. Hrozí vydatný déšť a velká voda
Sobotními silnými bouřkami to jenom začne. Meteorologové v aktualizované zprávě upravili územní platnost výstrahy před bouřkami a přidali nové varování před vydatnými srážkami a povodňovými jevy během neděle a pondělí.
Zdroj: Jan Hrabě