Umělou inteligenci čeká zkouška ohněm. Zaútočí na ni armáda hackerů

„V květnu Bidenova administrativa podpořila záměrný koordinovaný testovací útok na systémy umělé inteligence, takzvaný red-teaming, který se má odehrát během tří dnů na každoročním hackerském sjezdu tento víkend,“ píše Politico.

Akce je posvěcená také předními společnostmi zabývajícími se umělou inteligencí. Nechybí mezi nimi OpenAI, Google a Meta. „Souhlasily s tím, že některé z jejich nejnovějších a nejvýkonnějších systémů umělé inteligence budou pro toto cvičení napadeny,“ dodává server.

Bílý dům se obává, že rychle se vyvíjející modely umělé inteligence mohou být skutečně nebezpečné a představovat hrozbu pro americké občany či národní bezpečnost. „Náš rámec – a to pochází od prezidenta – je, že k využití příležitostí AI musíme nejprve zvládnout také rizika,“ poznamenal vysoký úředník Bílého domu pro vědeckou a technologickou politiku Alan Mislove.

Sám pomáhal red-teaming organizovat. „U věcí, jako jsou velké jazykové modely, jsou tato rizika poměrně široká, v mnoha případech mohou být méně jasná než u jiných systémů a týkají se naší společnosti, naší ekonomiky, národní bezpečnosti,“ upozornil Mislove.

Špičky americké politiky se snaží držet krok s vývojem umělé inteligence. „Bidenův Bílý dům se stal nejaktivnějším hráčem v oblasti politiky umělé inteligence. Vypracoval návrh rámce zákona o právech v oblasti umělé inteligence, svolal generální ředitele technologických společností a uspořádal řadu tiskových konferencí o široké škále hrozeb a příležitostí, které tato technologie představuje,“ shrnulo Politico činnost administrativy prezidenta Joea Bidena.

Podle ředitele Úřadu pro vědeckou a technologickou politiku Bílého domu Aratiho Prabhakara může umělá inteligence své vlastní vývojáře překvapit. „Je možné, že tyto modely budou dělat věci, které jejich konstruktéři a dodavatelé nepředpokládají nebo nechtějí, aby byly schopny dělat. Takže ano, myslím, že existují skutečné bezpečnostní úvahy,“ vysvětlil.