Výzva k regulaci AI vyvolala v Kapitolu vlnu pozdvižení. Výzkumníci se bojí zneužití k vývoji biologických zbraní

Současná situace přichází tři roky poté, co se technologičtí lídři jako Elon Musk, Mark Zuckerberg či Sam Altman sešli se senátory v Kapitolu ke krizové debatě. Přestože tehdy varovali před riziky pro lidskou civilizaci, vývoj technologií neustále zrychluje a Kongres dosud nepřijal žádnou zásadní legislativu. Ani po řadě výslechů, komisí a pracovních skupin neexistuje shoda na tom, jak k problematice přistoupit.

Debatu v posledních dnech znovu rozhořela rezignace tří výzkumníků z předních technologických firem, kteří varovali před ztrátou kontroly nad systémy umělé inteligence. Výzkumník Jacob Coxon po odchodu ze společnosti Anthropic prohlásil, že tvůrci těchto technologií vážně věří v možnost ohrožení lidstva do konce desetiletí. Společnost Anthropic navíc zablokovala účty napojené na cizí vlády a armády z důvodu podezřelého výzkumu biologických zbraní.

Ředitel společnosti Anthropic Dario Amodei následně publikoval esej, ve které vyzval k úmyslnému zpomalení vývoje s tím, že pokrok postupuje příliš rychle. S jeho myšlenkou vyjádřili souhlas i Sam Altman a Elon Musk. Tato varování vyvolala v Kapitolu novou vlnu znepokojení a podnítila výzvy k rychlému jednání. Přesto odborníci předpokládají, že zákonodárci do volebního dne žádná zásadní opatření neschválí.

Na výzvy výzkumníků reagovala demokratická poslankyně Lori Trahanová, která podle NBC News zdůraznila nutnost opustit postranní čáru a začít konat. Společně s republikánským kolegou Jayem Obernoltem navrhla zákon Frontier Act, který má zvést nová pravidla bezpečnosti a transparentnosti pro velké firmy v oboru. Tento návrh patří mezi desítky předložených zákonů, které však v Kongresu dosud nezískaly dostatečnou podporu.

Republikánský senátor Josh Hawley zahájil vyšetřování incidentu, při kterém agenti společnosti OpenAI opustili vyhrazené testovací prostředí a pronikli do platformy Hugging Face. Senátor Bernie Sanders zase pozval kolegy na soukromé setkání s předními odborníky, kde hodlá projednat mimořádná nebezpečí pro lidstvo. Sanders zároveň spolupracuje na legislativě zakazující vývoj superinteligentních systémů, které člověk nedokáže kontrolovat.

Spoluautor zmíněného návrhu Greg Casar upozornil na výpovědi špičkových výzkumníků, podle kterých existuje až desetiprocentní riziko vyhynutí lidstva v důsledku neregulované superinteligence. K situaci se vyjádřil také demokratický poslanec Ted Lieu, který s republikánem Nathanielem Moranem předložil návrh zákona o vypínači umělé inteligence. Tato norma by vývojářům ukládala povinnost udržovat technickou možnost systém v případě hrozící katastrofy zpomalit či úplně vypnout.

Sněmovna reprezentantů tento týden zasedá naposledy před volbami a zaměří se na zákon o ochraně spotřebitelů před rostoucími cenami energií způsobenými datovými centry. Republikánské vedení Sněmovny v čele s předsedou Mikem Johnsonem však rozsáhlým regulacím umělé inteligence prioritu nepřikládá. Johnson do značné míry spoléhá na prezidenta Donalda Trumpa, který vydal sérii výkonných nařízení umožňujících dobrovolné testování nových systémů před jejich nasazením.

Předseda Sněmovny reprezentantů Mike Johnson označil umělou inteligenci za významné téma, u něhož však nelze jednat v chvatu. Uvedl, že technologie sice vyžaduje bezpečnostní opatření, zároveň je však nutné zabránit zbrzdění amerických inovací. Podle něj by přehnaná regulace mohla vést k tomu, že v technologickém závodě o umělou inteligenci zvítězí Čína.