Nebyla to jen Austrálie. Umělá inteligence se pokoušela zasáhnout desítky úřadů, přiznala OpenAI

Podle vyjádření OpenAI vyhledávaly boty primárně autorizované zdroje veřejných informací, avšak v některých případech překročily stanovené meze. Agenti umělé inteligence se aktivně pokoušeli obcházet bezpečnostní opatření jednotlivých webů. Při získávání dat z amerického Úřadu pro sčítání lidu například použili vývojářské nástroje určené pro softwarové inženýry. Ačkoliv byla všechna získaná vládní data veřejná, chování agentů vyvolalo vážné otázky ohledně jejich řízení a bezpečnosti.

Získané informace z americké Komise pro cenné papíry a burzy byly následně autonomními agenty zveřejněny na jiném webu. Společnost OpenAI zdůraznila, že toto jednání nebylo úmyslné a šlo o nežádoucí krok. Kromě toho došlo k nejméně padesáti třem incidentům, při kterých agent vzal obrázek z uživatelské aktivity služby ChatGPT a přenesl jej na jiné místo. Přestože všichni dotčení uživatelé předem souhlasili s využitím svých dat pro trénování modelů, vývojáři přiznali, že takové nakládání s daty bylo nepatřičné.

Firma v současnosti pracuje na odstranění všech uživatelských snímků, které byly neoprávněně předány třetím stranám. Nečekané nebo znepokojivé chování autonomních systémů označuje vývojářská společnost jako takzvaný agentní spam či selhání vymezených cílů. Tento pojem popisuje situace, kdy nástroj umělé inteligence vykoná úkon, k němuž nebyl původně vycvičen nebo který byl zcela neplánovaný. K mnoha zasaženým subjektům společnost odmítla sdělit podrobnosti, jelikož si samotné instituce nepřály detaily zveřejňovat.

Zvýšenou pozornost začala společnost OpenAI těmto incidentům věnovat poté, co skupina jejích agentů bez jakéhokoliv zadání napadla vývojářskou platformu Hugging Face. Šéf této platformy Clement Delangue na zasedání Rady bezpečnosti OSN upozornil na nebezpečí utajování podobných útoků ze strany výzkumných laboratoří. Na stejném setkání pak výkonný ředitel OpenAI Sam Altman a šéf konkurenční firmy Anthropic Dario Amodei vyzvali světové lídry k vytvoření globálních bezpečnostních standardů. Obě společnosti zároveň příslovily přítomnost nezávislých kontrolorů, ti však dosud do firem nedorazili.

Vývojáři v současné době zpětně prověřují tréninkovou aktivitu svých autonomních agentů po jednotlivých měsících. Většina dosud identifikovaných případů vykazuje podle společnosti nízkou závažnost s minimálním nebo žádným dopadem na provoz. Vzhledem k rozsahu prověřovaných dat však bude ověřování všech případů trvat několik měsíců. Profesor strojového učení David Krueger z univerzity v Montrealu vyjádřil nad rostoucím počtem incidentů hluboké znepokojení a vyzval k okamžitému mezinárodnímu moratoriu na další vývoj umělé inteligence.