Šéf OpenAI: Veřejnost má plné právo obávat se umělé inteligence

Altmanova vyjádření zazněla v reakci na nedávný příspěvek výzkumníka, který opustil konkurenční společnost Anthropic. Bývalý zaměstnanec na sociálních sítích varoval, že nekontrolovaná umělá inteligence by mohla do konce desetiletí způsobit zánik lidstva. S tímto varováním veřejně podle BBC souhlasila řada dalších odborníků z technologického sektoru, přestože nebyly zveřejněny konkrétní podrobnosti o způsobu dosažení takového scénáře. Vlnu diskusí následně podporou výzvy k regulaci dále rozšířili šéfové společností Google DeepMind, X nebo samotný ředitel firmy Anthropic Dario Amodei.

Ředitel firmy Anthropic Dario Amodei vyzval ke zpomalení tempa vývoje veškerých systémů umělé inteligence a apeloval na vlády, aby toto odvětví začaly regulovat. Mnozí vedoucí představitelé technologických firem však preferují přístup založený na samoregulaci bez přímých státních zásahů. Sam Altman zdůraznil, že technologie budou vyvíjeny bezpečně a s ohledem na udržení kontroly nad jejich schopnostmi. Pokud by bezpečnost nestačila držet krok s pokrokem funkcí, jsou vývojáři podle jeho slov připraveni celý proces zpomalit nebo úplně zastavit.

Myšlenku, že by se vývojářské společnosti dokázaly samy efektivně regulovat, však ostře kritizuje řada politických osobností. Nezávislý americký senátor Bernie Sanders upozornil, že o zásadních otázkách budoucího vývoje v současnosti rozhoduje pouze hrstka nejbohatších lidí planety. Sanders zdůraznil, že o takto významné technologii musí rozhodovat veřejnost, nikoli skupina oligarchů. Bývalý poradce Bílého domu Steve Bannon rovněž vyjádřil pochybnosti o poctivosti technologických lídrů a odmítl představu, že by korporace jednaly v zájmu veřejnosti.

Ke zastáncům samostatné regulace naopak patří šéf společnosti Meta Mark Zuckerberg. Ten prohlásil, že každá laboratoř má jasnou motivaci i schopnosti vytvářet modely navržené s ohledem na bezpečnost. Podle Zuckerberga hrozí vývojářům obrovská právní odpovědnost za případné škody způsobené jejich systémy, což je přímo nutí k prevenci rizik. Dodal také, že laboratoře zanedbávající bezpečnostní aspekty budou v celkovém technologickém závodě nevyhnutelně zaostávat.

Rovněž šéf společnosti Nvidia Jensen Huang odmítl potřebu nových zákonů či státních regulací pro odvětví umělé inteligence. Podle Huanga by nemělo docházet k rozhodování mezi rychlostí inovací a bezpečností finálních produktů. Otázku bezpečnosti označil za čistě inženýrský problém, který mají řešit přímo samotné vývojářské týmy. Pokud vedení technologické firmy ztratí důvěru ve vlastní produkt, mělo by podle něj okamžitě přistoupit k pozastavení jeho vydání.

Někteří zástupci odvětví však varují, že ponechat umělou inteligenci bez vnější kontroly představuje obrovské hazardování s budoucností. Představitel společnosti Anthropic Jack Clark uvedl, že existence zcela neregulovaného průmyslu přináší enormní rizika pro celou společnost. Provozní ředitel společnosti Logical Intelligence Patrick Hillman upozornil na hlubokou nedůvěru veřejnosti vůči technologickým gigantům ze Silicon Valley. Hillman vyzval technologické lídry, aby jasně ukázali, jaké konkrétní aktivity jsou ochotni zastavit, pokud své produkty považují za nebezpečné.

Společnosti OpenAI, Anthropic i Google DeepMind v současnosti pracují na vytvoření dobrovolných standardů pro celé odvětví. Šéf Anthropicu Dario Amodei potvrdil, že probíhá dialog napříč průmyslem s cílem zavést přísnější bezpečnostní prověrky a normy. Představitel OpenAI Chris Lehane zdůraznil potřebu rychlého postupu bez ohledu na to, zda vznikající dohoda získá oficiální podporu ze strany vládních orgánů.