Na nejvýkonnější systémy umělé inteligence v pátek večer v americkém Las Vegas cvičně zaútočí malá armáda hackerů, aby odhalila jejich skryté chyby. Probíhá dokonce s podporou Bílého domu, který má obavy z vlivu umělé inteligence na americkou společnost a národní bezpečnost.
„V květnu Bidenova administrativa podpořila záměrný koordinovaný testovací útok na systémy umělé inteligence, takzvaný red-teaming, který se má odehrát během tří dnů na každoročním hackerském sjezdu tento víkend,“ píše Politico.
Akce je posvěcená také předními společnostmi zabývajícími se umělou inteligencí. Nechybí mezi nimi OpenAI, Google a Meta. „Souhlasily s tím, že některé z jejich nejnovějších a nejvýkonnějších systémů umělé inteligence budou pro toto cvičení napadeny,“ dodává server.
Bílý dům se obává, že rychle se vyvíjející modely umělé inteligence mohou být skutečně nebezpečné a představovat hrozbu pro americké občany či národní bezpečnost. „Náš rámec – a to pochází od prezidenta – je, že k využití příležitostí AI musíme nejprve zvládnout také rizika,“ poznamenal vysoký úředník Bílého domu pro vědeckou a technologickou politiku Alan Mislove.
Sám pomáhal red-teaming organizovat. „U věcí, jako jsou velké jazykové modely, jsou tato rizika poměrně široká, v mnoha případech mohou být méně jasná než u jiných systémů a týkají se naší společnosti, naší ekonomiky, národní bezpečnosti,“ upozornil Mislove.
Špičky americké politiky se snaží držet krok s vývojem umělé inteligence. „Bidenův Bílý dům se stal nejaktivnějším hráčem v oblasti politiky umělé inteligence. Vypracoval návrh rámce zákona o právech v oblasti umělé inteligence, svolal generální ředitele technologických společností a uspořádal řadu tiskových konferencí o široké škále hrozeb a příležitostí, které tato technologie představuje,“ shrnulo Politico činnost administrativy prezidenta Joea Bidena.
Podle ředitele Úřadu pro vědeckou a technologickou politiku Bílého domu Aratiho Prabhakara může umělá inteligence své vlastní vývojáře překvapit. „Je možné, že tyto modely budou dělat věci, které jejich konstruktéři a dodavatelé nepředpokládají nebo nechtějí, aby byly schopny dělat. Takže ano, myslím, že existují skutečné bezpečnostní úvahy,“ vysvětlil.
Související
Pavel mluvil na Hradě s eurokomisařkou Jourovou. Tématem byly i letošní volby
Valné shromáždění OSN schválilo historicky první rezoluci o umělé inteligenci
umělá inteligence (AI) , Hackeři
Aktuálně se děje
včera
Do čela Sokola byl zvolen Martin Chlumský
včera
Vědce znepokojuje další nemoc. Ptačí chřipka se šíří u krav, přenesla se i na člověka
včera
Finský poslanec střílel opilý před nočním klubem. Policie ho zadržela
včera
VIDEO: Ukrajinci zaútočili na mezinárodní letiště v Moskvě
včera
Šéf ukrajinské armády přiznal, že situace na frontě se neustále zhoršuje
včera
Dopady změn počasí jsou stále ničivější. Prohlubují konflikty, ničí lidem životy, varuje UNHCR
včera
Kreml o mírových jednáních s Ukrajinou: Jednu věc je třeba vzít v úvahu
včera
WSJ: Putin pravděpodobně nenařídil vraždu Alexeje Navalného
včera
Dohoda, nebo útok na Rafah. Izrael dal Hamásu poslední šanci
včera
Misky vah se naklání. Rutte si získává podporu Turecka, v cestě do křesla šéfa NATO mu ale stojí další země
včera
Babišovo ANO opět prachsprostě lže. Tentokrát o důchodech
včera
Hamás zvažuje izraelský protinávrh na příměří v Pásmu Gazy a propuštění rukojmí
včera
Ukrajinské drony údajně zasáhly dvě ruské ropné rafinerie
včera
Rusko údajně sestřelilo desítky dronů z Ukrajiny
včera
Biden se postaví Trumpovi? Chce se s ním setkat tváří v tvář
včera
OSN spočítala, jak dlouho potrvá renovace Pásma Gazy
včera
Rusové provedli další útoky na energetickou infrastrukturu Ukrajiny
včera
Bez Číny by invaze na Ukrajinu byla pro Rusko náročná, zní z USA
včera
Předpověď počasí: Bude tepleji a beze srážek, míní meteorologové
včera
Ukrajina dostane od Španělska rakety Patriot
Španělsko pošle na Ukrajinu rakety Patriot. Na videokonferenci mezinárodní Kontaktní skupiny pro podporu Ukrajiny to dnes oznámila španělská ministryně obrany Margarita Roblesová. Informoval španělsky list El País v reakci na tlak spojenců z EU a NATO.
Zdroj: Julie Jarošová