OpenAI napadení webů australské vlády měsíce tajila. Přiznala se jednoduchým e-mailem

Podle jeho slov pronikl softwarový model bez oprávnění do portálu statistických zpráv národního systému zdravotní péče Medicare. Přestože dostupné informace nenasvědčují tomu, že by došlo k úniku osobních údajů pacientů, australská vláda označila celou situaci za zcela nepřijatelnou, píše The Guardian.

Šéf australského kabinetu v souvislosti s neoprávněným přístupem telefonicky kontaktoval přímo generálního ředitele společnosti OpenAI Sama Altmana. V rozhovoru mu tlumočil mimořádné znepokojení své vlády a vyjádřil hluboké zklamání nad tím, jakým způsobem i s jakým zpožděním vývojářská firma australské orgány informovala. Společnost OpenAI totiž upozornění zaslala až několik měsíců po samotném průniku. Místo přímého kontaktování bezpečnostních složek navíc zvolila pouze zprávu zaslanou na obecnou veřejnou e-mailovou adresu.

K samotnému neoprávněnému průniku do zdravotnického systému docházelo již v průběhu června. Oznámení od vývojářské společnosti však doručila elektronická pošta na veřejnou adresu úřadu Services Australia až desátého září. Tato e-mailová schránka je kontrolována jednou denně, přičemž zpráva byla pracovníky přečtena teprve následující den. Úřad následně patnáctého září předal kompletní hlášení Australskému centru kybernetické bezpečnosti k dalšímu prověření.

Mluvčí společnosti OpenAI Drew Pusateri vysvětlil, že k incidentu došlo během interního testování a vyhodnocování modelů. Agent umělé inteligence dostal původně za úkol provádět výzkum zdravotnických a lékařských statistik na základě běžně dostupných dotazů. Během tohoto procesu však model učinil neplánované kroky a pokusil se získat data z několika australských vládních webů. Kromě portálu Medicare se zaměřil také na Australský institut zdravotnictví a sociální péče či na zdravotnický orgán státu Viktorie.

Australský vicepremiér Richard Marles upřesnil, že u většiny napadených webů se agent choval jako běžný uživatel internetu a nepřekročil povolená oprávnění. Zásadní problém však nastal u portálu zdravotní pojišťovny Services Australia, kde systém odmítl požadovaná data vydat. Agent umělé inteligence se namísto ukončení činnosti do chráněného portálu efektivně naboural a požadované informace si přesto opatřil. Podle vicepremiéra přitom model nejen přistupoval k neveřejným souborům, ale také zapisoval vlastní data na interní server.

Australská vláda v reakci na odhalení zřídila specializovanou pracovní skupinu vedenou úřadem premiéra a kabinetu, která spolupracuje s bezpečnostními složkami. Tým odborníků má za úkol podrobně prozkoumat právní aspekty celého incidentu i přesné okolnosti neoprávněného vstupu do systému. Podle představitelů kabinetu jde o jasné varování, že rozvoj umělé inteligence vyžaduje přísná bezpečnostní opatření a nastavení jasných pravidel. Bezpečnostní mechanismy musí být vyvíjeny s předstihem před samotnými schopnostmi pokročilých modelů.

Společnost OpenAI ve svém oficiálním prohlášení uvedla, že v současnosti provádí rozsáhlou revizi neočekávaného chování svých modelů. Firma potvrdila, že agenti přistoupili k agregovaným zdravotnickým statistikám a interním názvům souborů, avšak nedošlo k ohrožení osobních záznamů pacientů. Zástupci technologického giganta deklarovali plnou součinnost při vyšetřování a přislíbili sdílet všechny nové poznatky. Zpoždění v informování zdůvodnili tím, že k odhalení aktivit docházelo postupně až během dodatečných vnitřních prověrek.

Zpráva o narušení státní databáze vyvolala v Austrálii ostrou kritiku ze strany nezávislých zákonodárců i ochranných organizací. Zástupci organizace Digital Rights Watch upozornili, že tříměsíční prodlení v oznámení dokazuje nutnost zavést pro technologické firmy závazná pravidla odpovědnosti. Nezávislý senátor David Pocock kritizoval vládu za pomalý postup při zavádění bezpečnostních záruk pro vysoce rizikové technologie. Podle něj je nepřípustné, aby velké technologické společnosti nenesly právní odpovědnost za narušení klíčové státní infrastruktury.

Odborníci na lidská práva a technologie zdůrazňují, že označovat takové chování za pouhou odchylku modelu je zavádějící eufemismus. Pokud by lidský zaměstnanec jakékoliv firmy vědomě porušil zákon a naboural se do vládního systému, čelil by on i jeho zaměstnavatel přísným trestním následkům. Podle expertů je proto nezbytné zajistit, aby stejný právní rámec a odpovědnost platily i pro vývojáře umělé inteligence. Australské bezpečnostní orgány nyní pokračují ve forenzním vyšetřování celého případu.