Šéf Nvidie se vysmál varováním před koncem světa. Prozradil, jaká je šance, že AI vyhubí lidstvo

Ředitel technologického giganta v rozhovoru pro stanici CBS News zdůraznil, že obavy z konce světa nemají žádné opodstatnění. Uvedl, že šance na zkázu světa do roku 2030 z důvodu rozvoje umělé inteligence je přesně nulová. Podle něj je zbytečné a neodpovědné vyvolávat ve společnosti strach a šířit podobné zprávy. Huang zároveň zdůraznil, že předpovědi katastrofických událostí tohoto rozsahu nejsou podloženy žádnými vědeckými poznatky.

Vyjádření Jacoba Coxona podpořili také další dva výzkumníci z firmy Anthropic, která vyvíjí model Claude. Tento spor znovu rozpoutal mezinárodní debatu o nebezpečích umělé inteligence a nedostatečném dohledu nad jejím vývojem. Technologické společnosti v současnosti soupeří o to, kdo uvede na trh stále výkonnější a pokročilejší modely. Američtí zákonodárci v této souvislosti kritizují vývojářské firmy za to, že podceňují možná rizika spojená s rychlým pokrokem.

Společnost Anthropic nedávno zveřejnila zprávu o bezpečnostních hrozbách, která odhalila zneužívání jejích systémů. Zpráva detailně popisuje, jak se zločinci, státem podporované skupiny či výrobci špionážního softwaru pokoušeli využít model Claude. Tyto subjekty se snažily technologii zneužít k navrhování raket, bomb nebo k vývoji smrtonosných patogenů. Kromě toho byly zaznamenány i pokusy o využití umělé inteligence ke sledování politických disidentů.

K výzvám k zpomalení vývoje umělé inteligence se připojilo několik významných osobností technologického sektoru. Šéf společnosti Anthropic Dario Amodei, ředitel firmy OpenAI Sam Altman i podnikatel Elon Musk požadují zvolnění tempa výzkumu. Podle nich je potřeba získat více času na nastavení bezpečnostních правил a mechanismů dohledu. Obávají se totiž, že bez dostatečné kontroly může technologie představovat vážnou hrozbu pro společnost.

Naopak Donald Trump jakékoliv obavy z vývoje umělé inteligence odmítá a označuje je za podvod a spiknutí. Podle něj by případné zpomalení výzkumu mohlo poškodit pozici Spojených států. Varoval, že by takový krok mohl poskytnout strategickou výhodu Číně v globálním technologickém závodě. Zpomalení amerických firem by podle něj znamenalo ztrátu vedoucího postavení v klíčovém odvětví.

Americký ministr financí Scott Bessent oznámil, že Spojené státy a Čína dosáhly dohody o vzájemném dialogu. Obě mocnosti se dohodly na vytvoření komunikačního mechanismu zaměřeného na oblast umělé inteligence. Cílem tohoto systému je vzájemně se varovat a pomoci udržet potenciální rizika nového odvětví pod kontrolou. Tento krok má přispět ke snížení napětí a k prevenci nebezpečných incidentů spojených s využitím pokročilých modelů.

Jensen Huang ve svém vystoupení trval na tom, že komerční úspěch jeho firmy je přímo spojen s bezpečným nasazením produktů. Upozornil, že pokud by Nvidia nedbala na bezpečnost, hodnotu společnosti by to zásadně poškodilo. Připomněl, že již v současnosti existují platné zákony upravující kybernetickou bezpečnost i odpovědnost za způsobenou škodu. Katastrofické scénáře by podle něj neměly sloužit jako výmluva k obcházení nebo rušení těchto stávajících právních předpisů.