Na nejvýkonnější systémy umělé inteligence v pátek večer v americkém Las Vegas cvičně zaútočí malá armáda hackerů, aby odhalila jejich skryté chyby. Probíhá dokonce s podporou Bílého domu, který má obavy z vlivu umělé inteligence na americkou společnost a národní bezpečnost.
„V květnu Bidenova administrativa podpořila záměrný koordinovaný testovací útok na systémy umělé inteligence, takzvaný red-teaming, který se má odehrát během tří dnů na každoročním hackerském sjezdu tento víkend,“ píše Politico.
Akce je posvěcená také předními společnostmi zabývajícími se umělou inteligencí. Nechybí mezi nimi OpenAI, Google a Meta. „Souhlasily s tím, že některé z jejich nejnovějších a nejvýkonnějších systémů umělé inteligence budou pro toto cvičení napadeny,“ dodává server.
Bílý dům se obává, že rychle se vyvíjející modely umělé inteligence mohou být skutečně nebezpečné a představovat hrozbu pro americké občany či národní bezpečnost. „Náš rámec – a to pochází od prezidenta – je, že k využití příležitostí AI musíme nejprve zvládnout také rizika,“ poznamenal vysoký úředník Bílého domu pro vědeckou a technologickou politiku Alan Mislove.
Sám pomáhal red-teaming organizovat. „U věcí, jako jsou velké jazykové modely, jsou tato rizika poměrně široká, v mnoha případech mohou být méně jasná než u jiných systémů a týkají se naší společnosti, naší ekonomiky, národní bezpečnosti,“ upozornil Mislove.
Špičky americké politiky se snaží držet krok s vývojem umělé inteligence. „Bidenův Bílý dům se stal nejaktivnějším hráčem v oblasti politiky umělé inteligence. Vypracoval návrh rámce zákona o právech v oblasti umělé inteligence, svolal generální ředitele technologických společností a uspořádal řadu tiskových konferencí o široké škále hrozeb a příležitostí, které tato technologie představuje,“ shrnulo Politico činnost administrativy prezidenta Joea Bidena.
Podle ředitele Úřadu pro vědeckou a technologickou politiku Bílého domu Aratiho Prabhakara může umělá inteligence své vlastní vývojáře překvapit. „Je možné, že tyto modely budou dělat věci, které jejich konstruktéři a dodavatelé nepředpokládají nebo nechtějí, aby byly schopny dělat. Takže ano, myslím, že existují skutečné bezpečnostní úvahy,“ vysvětlil.
Související
Pavel mluvil na Hradě s eurokomisařkou Jourovou. Tématem byly i letošní volby
Valné shromáždění OSN schválilo historicky první rezoluci o umělé inteligenci
umělá inteligence (AI) , Hackeři
Aktuálně se děje
před 1 hodinou
TOP 09 má čtyři kandidáty, kteří mohou nahradit Langšádlovou, potvrdil Válek
před 2 hodinami
"Největší katastrofa v historii Palestiny." Invazi do Rafahu mohou zastavit jen USA, varuje Abbás
před 3 hodinami
Zelenskyj odsoudil ruské útoky na plynárenskou infrastrukturu země. Moskva hlásí další sestřelené drony
před 4 hodinami
Francie chce zabránit válce. Má návrh na vyřešení situace mezi Izraelem a Hizballáhem
před 5 hodinami
Evropa by se podle Macrona měla začít bránit jadernými zbraněmi
před 6 hodinami
Indonésii zasáhlo silné zemětřesení, bylo cítit i v Jakartě
před 7 hodinami
20 let od kauzy Abú Ghrajb. Mučení vězňů pomáhalo rekrutovat dobrovolníky do teroristických skupin, říká odborník
před 7 hodinami
Počasí v Česku dnes znovu ovlivní saharský písek. Může být chladněji, než se čekalo
před 8 hodinami
Letní počasí je zpět. Teploty příští týden vyrostou k 27 stupňům
včera
Do čela Sokola byl zvolen Martin Chlumský
včera
Vědce znepokojuje další nemoc. Ptačí chřipka se šíří u krav, přenesla se i na člověka
včera
Finský poslanec střílel opilý před nočním klubem. Policie ho zadržela
včera
VIDEO: Ukrajinci zaútočili na mezinárodní letiště v Moskvě
včera
Šéf ukrajinské armády přiznal, že situace na frontě se neustále zhoršuje
včera
Dopady změn počasí jsou stále ničivější. Prohlubují konflikty, ničí lidem životy, varuje UNHCR
včera
Kreml o mírových jednáních s Ukrajinou: Jednu věc je třeba vzít v úvahu
včera
WSJ: Putin pravděpodobně nenařídil vraždu Alexeje Navalného
včera
Dohoda, nebo útok na Rafah. Izrael dal Hamásu poslední šanci
včera
Misky vah se naklání. Rutte si získává podporu Turecka, v cestě do křesla šéfa NATO mu ale stojí další země
včera
Babišovo ANO opět prachsprostě lže. Tentokrát o důchodech
Zástupci hnutí ANO a kabinetu Petra Fialy (ODS) se shodli na nutnosti změn v prvním důchodovém pilíři, opoziční subjekt zároveň nezpochybnil nutnost zvyšování věkové hranice pro odchod do důchodu. To vyplývá z dokumentů zveřejněných prezidentskou kanceláří k březnové schůzce nad tématech důchodové reformy. Stojí za to připomenout, že onoho 28. Března se schůzky na pozvání prezidenta zůčastnili Karel Havlíček, Alena Schillerová a Aleš Juchelka. Celý zápis přidávám na konec tohoto článku. Závěr si z něj udělejte sami.
Zdroj: Petr Nutil