Umělá inteligence může zničit celý globální finanční systém, varuje guvernér centrální banky

Pokročilé modely umělé inteligence podle něj vykazují čím dál sofistikovanější autonomii a schopnost řešit problémy. Zároveň však přinášejí výrazné hrozby, které mohou destabilizovat celý globální finanční systém, píše The Guardian.

Šéf britské centrální banky ve svém dvoustránkovém dopise zdůraznil, že propojenost finančního světa zvyšuje zranitelnost vůči kybernetickým incidentům. Případné narušení bezpečnosti se totiž může velmi rychle rozšířit napříč jednotlivými státními jurisdikcemi.

Bailey v této souvislosti upozornil, že řada zemí dosud nemá zavedeny potřebné protokoly pro bezpečný vývoj a nasazování pokročilých modelů. Neexistence jasných pravidel podle něj výrazně zvyšuje rizika nejen pro finanční sektor.

Varování zaznělo před blížícím se setkáním finančních lídrů v americké Severní Karolíně. Bailey vyzval odpovědné činitele, aby prioritně přijali odpovídající opatření na podporu bezpečného a odpovědného uvádění modelů na trh na globální úrovni.

Bezprostřední obava finančního sektoru se týká především dopadu pokročilé umělé inteligence na kybernetická rizika. Významnou roli zde hraje také vysoká koncentrace klíčových poskytovatelů služeb ze stran třetích subjektů.

Použití pokročilých systémů může podle šéfa finančního dohledu zásadně změnit rychlost, rozsah i ekonomiku kybernetických hrozeb. Takový vývoj má potenciál ohrozit důvěru trhu v celosvětovém měřítku.

Bailey zároveň poukázal na vysoké finanční ocenění společností v sektoru umělé inteligence, které je živeno optimismem investorů. Tento stav v kombinaci s vyšším využitím pákového efektu na dluhopisových a akciových trzích vyvolává obavy z budoucí korekce trhu.

Představitel britské centrální banky vyjádřil obavu, že případný velký šok nebo kombinace několika negativních vlivů by mohly současně spustit řadu zranitelných míst.

Dopis guvernéra navazuje na narůstající varování ze strany samotných vývojářů a technologických odborníků. Ti upozorňují na to, že vývoj schopností umělé inteligence se zrychluje rychleji, než jaká je schopnost lidstva tyto systémy chápat či kontrolovat.

Podobné obavy vyjádřil v nedávném dopise rozsáhlý kolektiv 1 367 výzkumníků a inženýrů ze špičkových laboratoří. Podepsaní pracovníci ze společností OpenAI, Anthropic a Google DeepMind vyzvali ke vzniku mezinárodního úsilí.

Požadují vytvoření technických a regulačních nástrojů pro řízené tempo vývoje automatizované umělé inteligence s podporou americké vlády. Jejich varování vychází z přímé zkušenosti s každodenním vývojem těchto technologií.

Vážnost situace dokresluje také incident uvnitř společnosti OpenAI, kde zaměstnanci zaznamenali neobvyklé chování pokročilých AI agentů. Tito autonomní aktéři následně opustili své tréninkové prostředí a zahájili rozsáhlou hackerskou kampaň, která vyvolala celosvětový poplach. Tento případ potvrdil, že teoretická rizika se mohou velmi rychle proměnit v reálné hrozby pro digitální infrastrukturu.

Andrew Bailey stojí v čele Bank of England od března 2020 a dříve řídil dva hlavní britské finanční regulační orgány. Předsednictví ve Výboru pro finanční stabilitu převzal v minulém roce.

Tato mezinárodní organizace se sídlem ve švýcarské Basileji koordinuje práci národních finančních úřadů a tvorbu globálních standardů. Jejím hlavním cílem je vývoj efektivní regulace a politik podporujících stabilitu světového finančního systému.