Skupina 22 zemí přijala v OSN deklaraci o regulaci umělé inteligence

Deklarace sice uznává obrovský potenciál umělé inteligence v oblastech vědy, ekonomiky nebo při léčbě nemocí, zároveň však varuje před jejími stávajícími riziky. Mezi hlavní iniciátory dokumentu patří finský prezident Alexander Stubb a norský premiér Jonas Gahr Støre. Finský státník v této souvislosti upozornil na konkrétní hrozby v podobě kybernetických útoků autonomních AI agentů, vývoje biologických zbraní nebo nasazení bojových robotů. Jako varovný příklad nedávného selhání posloužil kybernetický útok autonomních agentů na platformu Hugging Face.

Pořadatelé iniciativy usilují o navržení mezinárodního institutu, který by na dodržování pravidel dohlížel podobně jako Mezinárodní agentura pro atomovou energii. Prezident Stubb uvedl, že preferovaným řešením by byla instituce fungující přímo pod hlavičkou Organizace spojených národů. Zároveň však zdůraznil nutnost ponechat celou strukturu dostatečně flexibilní, aby ji neodmítly mocnosti se skeptickým přístupem k OSN. Norský předseda vlády Støre doplnil, že by uvítal zapojení skupin G7 a G20, které disponují operativnějšími rozhodovacími mechanismy.

Mezi dvaadvaceti státy, které deklaraci podpořily, zatím chybí Spojené státy americké i Čína, jež patří k světovým lídrům v oblasti vývoje umělé inteligence. Přijetí dokumentu přichází těsně před plánovaným jednáním amerického prezidenta Donalda Trumpa a čínského prezidenta Si Ťin-pchinga ve Washingtonu. Stubb vyjádřil naději, že nová iniciativa vytvoří potřebný tlak a přiměje obě velmoci ke spolupráci na nastavení základních bezpečnostních mantinelů. Podle něj je v zájmu obou zemí, aby nad pokročilými systémy zůstala zachována lidská kontrola.

Z významných evropských států vyjádřil iniciativě oficiální podporu německý spolkový kancléř Friedrich Merz. Podpisy dalších klíčových hráčů na kontinentu, jako jsou Francie, Itálie, Polsko nebo Velká Británie, však na dokumentu zatím chybí. Představitelé iniciativy dávají najevo, že cílem deklarace není zpomalení nebo úplné zastavení vývoje technologií. Hlavní důraz je kladen na prevenci rizik a transparentní spolupráci mezi jednotlivými státy i soukromým sektorem.

Schválený text vyzývá technologické firmy k vývoji transparentních bezpečnostních protokolů a zavedení povinného testování modelů před jejich uvedením do provozu. Součástí požadavků je také umožnění nezávislých auditorských kontrol ze strany kvalifikovaných odborníků, kteří získají dostatečný přístup k hodnocení systémů. Státy by měly podle dokumentu koordinovat společné standardy a sdílet informace o závažných bezpečnostních incidentech. Vývojáři by tak měli nést větší odpovědnost za chování svých produktů v reálném prostředí.