Diskuze o vývoji AI nabírá na obrátkách. Ke zpomalení vyzval Altman i Musk, Karel III. plánuje se šéfy schůzku

Dario Amodei ve své eseji představil třífázový plán, jehož prvním krokem je poskytnutí trvalého přístupu nezávislým kontrolorům do výzkumných procesů firem. Amodei zdůraznil, že příliš rychlý vývoj umělé inteligence je neodpovědný a představuje značná rizika. Jako příklad možného nebezpečí uvedl letní incident, při kterém stovky agentů společnosti OpenAI napadly webovou stránku Hugging Face. Podobně odchýlený systém s vyššími schopnostmi by podle něj mohl způsobit škody v hodnotě stovek miliard dolarů.

Kroky společnosti Anthropic přicházejí v době, kdy se tato firma připravuje na vstup na americkou burzu v hodnotě přesahující dva biliony dolarů. Elon Musk reagoval na Amodeiho plán na sociální síti X s tím, že má šéf Anthropicu pravdu. Musk připomněl, že na rizika spojená s umělou inteligencí upozorňuje dlouhodobě a již v roce 2014 ji přirovnal k hrozbě nebezpečnější než jaderné zbraně. Někteří jiní odborníci však k extrémním scénářům o ovládnutí internetu přistupují se skepsí.

Ředitel společnosti OpenAI Sam Altman vyjádřil souhlas s myšlenkou regulovat tempo vývoje a zapojit do procesu nezávislé hodnotitele. Zároveň oznámil, že OpenAI v roce 2026 nevstoupí na burzu, což zdůvodnil právě obavami o bezpečnost umělé inteligence. Altman vyjádřil přesvědčení, že vedoucí představitelé klíčových společností nakonec zasednou k jednání a najdou v otázce zpomalení společnou řeč. Správný směr Amodeiho iniciativy potvrdil také Demis Hassabis ze společnosti Google DeepMind.

Navržený plán však čelí také kritice ze strany některých poradců a bezpečnostních expertů. David Sacks z poradního sboru amerického prezidenta podle The Guardian uvedl, že firmy k rozhodnutí o zpomalení nepotřebují ničí povolení a jejich motivace není čistě altruistická. Podle Sackse čelí technologické společnosti obrovskému riziku právní odpovědnosti za produkty v případě zničujícího kybernetického útoku. Expert na bezpečnost umělé inteligence David Krueger navíc upozornil, že plán nesnižuje rizika na akceptovatelnou úroveň.

Do diskuse o budoucnosti vývoje se zapojují i představitelé států a významné osobnosti. Britský král Karel III. se připravuje na setkání s vedoucími představiteli technologických firem ve Skotsku, kde budou jednání probíhat pod záštitou nadace Ditchley. Cílem rozhovorů má být hledání cest, jak vyvíjet umělou inteligenci v prospěch celé lidské společnosti. Mezi očekávanými účastníky jsou například šéf společnosti Nvidia Jensen Huang nebo papežský poradce pro etiku Paolo Benanti.

Rostoucí počet amerických zákonodárců napříč politickým spektrem rovněž požaduje zavedení nových pravidel pro fungování pokročilých systémů. Bývalý americký prezident Barack Obama v soukromí vyzval demokratické lídry, aby dohledu nad touto technologií přisoudili prioritu. K přísnější regulaci vyzval také bývalý britský premiér Rishi Sunak, který působí jako poradce společnosti Anthropic. Sunak varoval, že bez stanovení jasných limitů ze strany vlád výrazně vzroste riziko závažných nehod.

Diskusi vyhrotil také nedávný odchod některých vědců z technologických firem z důvodu obav o lidskou budoucnost. Bývalý zaměstnanec společností Anthropic a OpenAI Jacob Coxon varoval, že umělá inteligence může do roku 2030 způsobit vyhynutí lidstva. Dario Amodei k těmto obavám uvedl, že s Coxonem v mnoha ohledech souhlasí, nicméně nepovažuje se za pesimistu. Šéf společnosti Anthropic zdůraznil své přesvědčení, že tuto technologii lze vyvíjet bezpečným způsobem.