Na nejvýkonnější systémy umělé inteligence v pátek večer v americkém Las Vegas cvičně zaútočí malá armáda hackerů, aby odhalila jejich skryté chyby. Probíhá dokonce s podporou Bílého domu, který má obavy z vlivu umělé inteligence na americkou společnost a národní bezpečnost.
„V květnu Bidenova administrativa podpořila záměrný koordinovaný testovací útok na systémy umělé inteligence, takzvaný red-teaming, který se má odehrát během tří dnů na každoročním hackerském sjezdu tento víkend,“ píše Politico.
Akce je posvěcená také předními společnostmi zabývajícími se umělou inteligencí. Nechybí mezi nimi OpenAI, Google a Meta. „Souhlasily s tím, že některé z jejich nejnovějších a nejvýkonnějších systémů umělé inteligence budou pro toto cvičení napadeny,“ dodává server.
Bílý dům se obává, že rychle se vyvíjející modely umělé inteligence mohou být skutečně nebezpečné a představovat hrozbu pro americké občany či národní bezpečnost. „Náš rámec – a to pochází od prezidenta – je, že k využití příležitostí AI musíme nejprve zvládnout také rizika,“ poznamenal vysoký úředník Bílého domu pro vědeckou a technologickou politiku Alan Mislove.
Sám pomáhal red-teaming organizovat. „U věcí, jako jsou velké jazykové modely, jsou tato rizika poměrně široká, v mnoha případech mohou být méně jasná než u jiných systémů a týkají se naší společnosti, naší ekonomiky, národní bezpečnosti,“ upozornil Mislove.
Špičky americké politiky se snaží držet krok s vývojem umělé inteligence. „Bidenův Bílý dům se stal nejaktivnějším hráčem v oblasti politiky umělé inteligence. Vypracoval návrh rámce zákona o právech v oblasti umělé inteligence, svolal generální ředitele technologických společností a uspořádal řadu tiskových konferencí o široké škále hrozeb a příležitostí, které tato technologie představuje,“ shrnulo Politico činnost administrativy prezidenta Joea Bidena.
Podle ředitele Úřadu pro vědeckou a technologickou politiku Bílého domu Aratiho Prabhakara může umělá inteligence své vlastní vývojáře překvapit. „Je možné, že tyto modely budou dělat věci, které jejich konstruktéři a dodavatelé nepředpokládají nebo nechtějí, aby byly schopny dělat. Takže ano, myslím, že existují skutečné bezpečnostní úvahy,“ vysvětlil.
Související
Bakalářky se stávají minulostí. Kvůli umělé inteligenci je ruší další škola
Pavel mluvil na Hradě s eurokomisařkou Jourovou. Tématem byly i letošní volby
umělá inteligence (AI) , Hackeři
Aktuálně se děje
před 43 minutami
Druhá fáze testů jaderných zbraní: Rusko provedlo elektronické odpaly raket
před 56 minutami
Univerzity upozorňují na kolaps systému. Ministerstvo vnímá problém a shání peníze
před 1 hodinou
Stoltenberg: Jaderné zbraně NATO jsou konečnou bezpečnostní zárukou. Zakročíme proti ruským špionům
před 2 hodinami
Týdenní výhled filmů: Buranská komedie, duel o čest a bojová umění či italská renesance
před 2 hodinami
Banální opomenutí může mít fatální důsledky. Chraňte se při sportu důsledně
před 2 hodinami
Pellegrini vyrazí na první zahraniční návštěvu. Do Česka přijede ještě v červnu
před 2 hodinami
Políček mezinárodnímu právu: Švýcarsko zamítlo rozhodnutí evropského soudu o klimatu
před 3 hodinami
Změny ve vedení EU: Věci půjdou rychle, zní z Bruselu. Do pozic se derou dvě nová jména
před 3 hodinami
Ukrajina zničila tři ruské systémy protivzdušné obrany na Krymu
před 4 hodinami
Zdechovský pro EZ: Úspěch Turka či Konečné je varováním, musíme zabrat. Do kampaně jsem dal maximum
před 4 hodinami
Arménie se k Rusku otočila zády. Opustí jeho bezpečnostní blok
před 4 hodinami
Fico komunikuje s vládou, potvrdil Kaliňák. Léčba potrvá ještě několik týdnů
před 4 hodinami
Ukrajina dostane 50 miliard dolarů z výnosů z úroků ze zmrazených ruských aktiv
před 6 hodinami
Počasí: O víkendu dorazí do Česka letní teploty
včera
Rusko dává k adopci děti unesené z Ukrajiny. Otřesné, reagují USA
včera
Blinken: Některé změny Hamásu v dohodě o příměří nejsou proveditelné
včera
Fiala: Česko by mělo za 77 tanků Leopard zaplatit 52 miliard
včera
Rusko lže a podvádí Asiaty. Státy chtějí své občany zpět
včera
Feriho chováním se bude znovu zabývat policie. ÚS jí vrátil jeden z odložených případů
včera
Strojvedoucí rychlíku si před srážkou uvědomil chybu a zastavil, vyplývá z šetření
Vyšetřování tragické srážky rychlíku a nákladního vlaku, která se na den přesně před týdnem stala v Pardubicích, pokračuje. Podle zjištění Drážní inspekce si strojvedoucí rychlíku uvědomil, že projel návěst, a zastavil. Personál protijedoucího vlaku ale nebyl nijak varován, takže nemohl včas zabrzdit. Podle posledních informací už není nikdo ze zraněných v nemocnici.
Zdroj: Jan Hrabě