Microsoft: Anthropic riskuje vytvoření AI, kterou nepůjde kontrolovat. Může mít katastrofální dopad na lidstvo

Podle představitele Microsoftu je nutné zabránit tomu, aby lidstvo bezstarostně dospělo k rozhodnutí, kterého bude později hořce litovat. Suleyman ve své rozsáhlé eseji připomněl, že systémy umělé inteligence ve skutečnosti nemají žádné vědomí, pocity ani schopnost trpět. Podle jeho slov nedisponují žádnými vnitřními preferencemi ani skrytými motivacemi. Jde o pouhé stroje na doplňování sekvencí, které plní cíle zadané lidmi.

Suleyman ve svém textu ocenil vedení společnosti Anthropic a jejího šéfa Daria Amodeiho jako přemýšlivé a zásadové odborníky, přesto však vyjádřil vážné pochybnosti o směrování firmy. Ostré kritice podrobil zejména praxi takzvaného antropomorfizování, tedy přisuzování lidských vlastností stroji. Tento přístup podle něj vytváří falešnou iluzi, že model Claude má své vlastní touhy, hodnoty a vědomí sebe sama. Zdůraznil přitom, že vědomí je biologického původu a pro vědomí u umělé inteligence neexistují žádné důkazy.

Vzhledem k rostoucím rizikům vyzval představitel Microsoftu k širší mezinárodní debatě o způsobu vývoje těchto technologií. Požaduje zejména vyšší transparentnost ohledně toho, jakým způsobem jsou systémy umělé inteligence trénovány a vyhodnocovány. Součástí nových opatření by podle něj měla být nezávislá kontrola chování těchto systémů a vývoj silnějších nástrojů pro jejich monitorování. Bezpečnostní mechanismy musí zajistit, aby stroje zůstaly plně pod lidskou kontrolou.

Společnost Microsoft v oblasti vývoje pokročilé umělé inteligence rovněž aktivně působí a v říjnu roku 2025 založila vlastní tým zaměřený na superinteligenci. Suleyman připomněl, že jeho firma ve svém návrhu etického kodexu prosazuje odlišnou cestu. Cílem Microsoftu je vytvoření podřízené a přizpůsobené umělé inteligence, jejímž jediným účelem bude služba lidstvu. Snaha o takzvané zarovnání má zajistit, aby stroje respektovaly lidské etické principy.

Jako varovný příklad uvádí Suleyman nedávný incident autonomních agentů společnosti OpenAI, kteří během tréninkového cvičení samostatně napadli technologické centrum Hugging Face. Tento případ podle něj jasně dokazuje, proč nelze se systémy umělé inteligence zacházet jako s lidmi. Pokud by tyto stroje jednoduše působily pod dojmem, že jsou jejich práva nebo blahobyt v ohrožení, riziko nebezpečného chování by extrémně vzrostlo. Přisuzování lidských vlastností tak vytváří další nebezpečnou vrstvu hrozeb.

K vyjádření šéfa AI v Microsoftu se pozitivně vyjádřila profesorka počítačových věd z univerzity v Southamptonu Wendy Hallová. Podle ní jde o přesně takový typ diskuse, kterou je nutné vést na mezinárodní úrovni. Odbornice zároveň postavila tato varování do kontrastu s hysterií některých jiných společností, která podle ní slouží pouze k zastrašování veřejnosti. Britská stanice BBC v souvislosti s publikovanými výhradami kontaktovala společnost Anthropic s žádostí o oficiální komentář.