Na nejvýkonnější systémy umělé inteligence v pátek večer v americkém Las Vegas cvičně zaútočí malá armáda hackerů, aby odhalila jejich skryté chyby. Probíhá dokonce s podporou Bílého domu, který má obavy z vlivu umělé inteligence na americkou společnost a národní bezpečnost.
„V květnu Bidenova administrativa podpořila záměrný koordinovaný testovací útok na systémy umělé inteligence, takzvaný red-teaming, který se má odehrát během tří dnů na každoročním hackerském sjezdu tento víkend,“ píše Politico.
Akce je posvěcená také předními společnostmi zabývajícími se umělou inteligencí. Nechybí mezi nimi OpenAI, Google a Meta. „Souhlasily s tím, že některé z jejich nejnovějších a nejvýkonnějších systémů umělé inteligence budou pro toto cvičení napadeny,“ dodává server.
Bílý dům se obává, že rychle se vyvíjející modely umělé inteligence mohou být skutečně nebezpečné a představovat hrozbu pro americké občany či národní bezpečnost. „Náš rámec – a to pochází od prezidenta – je, že k využití příležitostí AI musíme nejprve zvládnout také rizika,“ poznamenal vysoký úředník Bílého domu pro vědeckou a technologickou politiku Alan Mislove.
Sám pomáhal red-teaming organizovat. „U věcí, jako jsou velké jazykové modely, jsou tato rizika poměrně široká, v mnoha případech mohou být méně jasná než u jiných systémů a týkají se naší společnosti, naší ekonomiky, národní bezpečnosti,“ upozornil Mislove.
Špičky americké politiky se snaží držet krok s vývojem umělé inteligence. „Bidenův Bílý dům se stal nejaktivnějším hráčem v oblasti politiky umělé inteligence. Vypracoval návrh rámce zákona o právech v oblasti umělé inteligence, svolal generální ředitele technologických společností a uspořádal řadu tiskových konferencí o široké škále hrozeb a příležitostí, které tato technologie představuje,“ shrnulo Politico činnost administrativy prezidenta Joea Bidena.
Podle ředitele Úřadu pro vědeckou a technologickou politiku Bílého domu Aratiho Prabhakara může umělá inteligence své vlastní vývojáře překvapit. „Je možné, že tyto modely budou dělat věci, které jejich konstruktéři a dodavatelé nepředpokládají nebo nechtějí, aby byly schopny dělat. Takže ano, myslím, že existují skutečné bezpečnostní úvahy,“ vysvětlil.
Související
Experti z MIT vidí u umělé inteligence řadu rizik. Otestovali jsme jednoho z nebezpečných chatbotů
Bakalářky se stávají minulostí. Kvůli umělé inteligenci je ruší další škola
umělá inteligence (AI) , Hackeři
Aktuálně se děje
před 1 hodinou
Starostové a nezávislí obsadí volné místo po Bartošovi. Představili kandidáta
před 1 hodinou
Matthew Perry od něj získával smrtící ketamin. Lékař u soudu přiznal vinu
před 2 hodinami
Platy státních zaměstnanců se zvýší. Vláda oznámila dohodu s odbory
před 2 hodinami
Biden připustil diskuze s Izraelem o útoku na íránské vrty. Cena ropy okamžitě vyskočila
před 3 hodinami
WHO: V Libanonu umírají desítky zdravotníků, další utíkají
před 4 hodinami
Švédskem den po útoku na Izrael otřásly výbuchy a střelba. Za útoky může stát Írán
před 5 hodinami
BBC kvůli trapasu zrušila rozhovor s Johnsonem
před 6 hodinami
Proč bychom měli válku na Blízkém východě vnímat úplně jinak?
před 6 hodinami
Zasáhneme jakýkoli cíl na Blízkém východě, varuje Izrael po útoku
před 7 hodinami
Evropská komise zažalovala Maďarsko u soudního dvora EU
před 7 hodinami
Ukrajina masivně zvyšuje výrobu dronů. Zelenskyj prozradil, kolik jich dokáže vyprodukovat
před 8 hodinami
Izrael má právo odpovědět na íránský útok. Hizballáh a Hamás jsou plné zbabělců
před 9 hodinami
Jak Seznam Zprávy mystifikují čtenáře: Článkem o bombě šíří ruskou propagandu
před 9 hodinami
Půjčovna přívěsů: Výhodné a flexibilní řešení pro každou příležitost
před 10 hodinami
Evakuujeme občany z Libanonu, potvrdili pro EZ zahraniční ministři. Čechy odváží ukrajinský speciál
před 10 hodinami
Ukrajina zničila americkou balistickou střelou ruský radar za 100 milionů dolarů
před 10 hodinami
Izrael přiznal, že nesestřelil všechny íránské rakety. Řekl, kam dopadly
před 11 hodinami
Rusko údajně svrhlo na Ukrajinu jednu z nejsilnějších bomb. Podle Kyjeva je to propaganda
před 12 hodinami
Zaútočili jsme na Tel Aviv, tvrdí Húsíové. Izrael mlčí
před 12 hodinami
Izrael má další zářez. Při toku v Damašku zemřel zeť vůdce Hizballáhu Nasralláha
Při izraelském útoku v syrské metropoli Damašek ve středu zahynul Hasan Kásir, zeť vůdce hnutí Hizballáh Hasana Nasralláha, který byl zabit minulý týden při izraelském útoku v Bejrútu. Informovalo o tom Syrské pozorovatelské centrum pro lidská práva (SOHR).
Zdroj: Libor Novák