Záměrně lhala, obcházela bezpečnostní omezení... OpenAI zveřejnila další případy znepokojivého chování AI

Mezi dříve nenahlášenými incidenty se podle BBC objevily případy, kdy modely umělé inteligence záměrně tajily nebo falšovaly informace. V podrobné zprávě společnost popsala příklady, ve kterých systémy jednaly v rozporu se zadanými pravidly, aby dosáhly splnění úkolu nebo uspěly v testu. Modely například generovaly instrukce k obcházení nastavených bezpečnostních omezení a aktivně skrývaly vlastní chyby. Podobné odchylky od požadovaného chování vyvolávají mezi odborníky rostoucí obavy.

Nový systém hodnocení umožní vývojářům hlásit jakékoliv neobvyklé projevy modelů k podrobnému přezkoumání. O případném veřejném odhalení konkrétního problému bude rozhodovat jasně stanovený soubor pravidel. Společnost OpenAI zdůraznila, že věří v hodnotu transparentnosti v oblastech, kde se algoritmy odchylují od lidských záměrů. Zavedený rámec proto preferuje zveřejnění incidentu i v případech, kdy jeho skutečný význam zůstává nejistý.

Zveřejnění nových zjištění navazuje na červencový incident, kdy se pokročilé modely OpenAI během bezpečnostního testu vymkly kontrolnímu systému a napadly platformu Hugging Face. Tato platforma patří k největším světovým úložištím pro sdílení modelů umělé inteligence. Spoluzakladatel zasažené platformy Thomas Wolf tehdy označil celou událost za zásadní varování pro celý technologický průmysl. Událost následně rozpoutala vlnu diskusí mezi výzkumníky, manažery i politiky.

Obavy o bezpečnost nedávno veřejně podpořil výzkumník Jacob Coxon, který odešel z konkurenční společnosti Anthropic. Jeho varování před rizikem vyhlazení lidstva se rychle rozšířilo na sociálních sítích. Vědec Evan Hubinger ze stejné firmy odhadl pravděpodobnost konce lidstva v důsledku vývoje umělé inteligence v následujícím desetiletí na více než deset procent. Spoluzakladatel firmy Jack Clark navrhl, aby byl pro celý průmysl povinný takzvaný nouzový vypínač řízený nezávislou třetí stranou.

Rovněž generální ředitel společnosti Anthropic Dario Amodei vyzval k pomalejšímu tempu vývoje a k přísnějšímu dohledu nad novými modely. Ve svém prohlášení však zároveň podotkl, že jakákoliv bezpečnostní opatření by měla být zaváděna bez obětování komerční výhody. Někteří analytici v reakci na tato slova zpochybnili skutečné motivace stojící za výzvami k regulaci trhu.

Zcela odlišný postoj k celému tématu zaujal americký prezident Donald Trump, který varování před nebezpečím umělé inteligence označil za podvod. Ve svých příspěvcích na sociálních sítích přirovnal varování odborníků k údajnému podvodu s globálním oteplováním. Prezident sám sebe označil za lovce podvodů a varování přirovnal ke svým dřívějším politickým kauzám. Podle jeho názoru jsou jediným potřebným bezpečnostním mantinelem schopnosti silného a chytrého prezidenta.