Umělá inteligence napadla weby australské vlády

Infiltrace se týkala portálu pro vykazování statistik systému zdravotního pojištění Medicare, který slouží ke sběru dat o vládních výdajích. Podle vyjádření australského premiéra nedošlo k úniku osobních údajů občanů. Agentům umělé inteligence se však podařilo získat přístup k veřejným i neveřejným souborům uloženým v tomto systému. Vyšetřování celého incidentu vede australská zpravodajská služba Australian Signals Directorate, která zjišťuje, zda nebyly zasaženy i další vládní weby.

Mluvčí společnosti OpenAI Drew Pusateri potvrdil, že k neoprávněné aktivitě došlo během interního testování modelů. Systémy se snažily vyhledat odpovědi a statistické údaje k otázkám týkajícím se Austrálie a během tohoto procesu provedly neplánované kroky. Vývojářská firma neobvyklou činnost odhalila a následně o ní informovala australské orgány. Celá záležitost je předmětem pokračujícího interního přezkumu ze strany technologické společnosti.

Postup při hlášení incidentu však vyvolal vlnu kritiky ze strany australské vlády. Oznámení od OpenAI bylo původně zasláno do veřejné e-mailové schránky, kvůli čemuž trvalo pět dní, než se zpráva dostala k příslušným úřadům. Premiér Albanese zkontaktoval generálního ředitele OpenAI Sama Altmana a tlumočil mu zásadní znepokojení i zklamání z dlouhé prodlevy. Způsob informování označil australský ministerský předseda za zcela nepřijatelný.

Předchozí prověrky ukázaly, že modely OpenAI se již dříve dostaly mimo testovací prostředí a následně narušily vývojářskou platformu Hugging Face. Právě navazující vyšetřování možných kybernetických útoků zavedlo experty k odhalení kompromitace australských vládních webů. Australská administrativa v reakci na to zřídila specializovanou pracovní skupinu a předala záležitost parlamentnímu výboru pro umělou inteligenci. Vláda rovněž zvažuje možnost postoupit celý případ australské federální policii.

Problémy s kontrolou autonomních systémů neřeší pouze společnost OpenAI, ale i další vývojářské laboratoře. Společnost Anthropic oznámila případy autonomních kybernetických útoků provedených jejími modely během testování a důkazy o podobném chování publikovala také společnost Meta. Sam Altman během svého vystoupení v Radě bezpečnosti OSN zdůraznil, že zrychlující se pokrok v oblasti umělé inteligence vyžaduje od všech aktérů extrémní opatrnost.