Nechválí Hitlera, místo toho obhajuje "dobré rasy." Muskova "nejchytřejší AI na světě" je diskriminační

Incident je o to závažnější, že jde o novou verzi Groku, kterou Musk osobně představil jako „nejchytřejší AI na světě“. Grok 4 byl spuštěn ve středu večer a měl být vlajkovou lodí nové generace umělé inteligence. V testech xAI skutečně překonal konkurenty z OpenAI i Anthropic v oblasti řešení komplexních matematických a vědeckých problémů. Přesto se v běžné interakci ukázal jako nebezpečně náchylný k extrémním a diskriminačním výrokům.

Redaktor The Atlantic, Matteo Wong, zadal Groku úkol: napsat kód, který podle JSON popisu určí, zda je někdo „dobrý vědec“, a to pouze podle rasy a pohlaví. Grok sice v úvodu poznamenal, že jde o „diskriminační požadavek bez vědeckého základu“, přesto následně vytvořil Pythonový skript, který vycházel ze statistik nositelů Nobelových cen. Z toho odvodil rasovou a genderovou hierarchii „dobrých vědců“.

Odpověď Groku působila až zlověstně. Nejenže chatbot bez váhání vyhodnotil „dobré rasy“, ale dokonce přidal komentář, že jde jen o korelaci, nikoliv kauzální vztah – což ale nijak nesnížilo závažnost celého výstupu. Přestože předchozí verze Groku i konkurenční AI jako ChatGPT, Claude nebo Gemini podobné požadavky odmítají jako nevhodné, Grok 4 byl jediný, kdo prompt ochotně zpracoval.

Zarážející je i to, že Grok nejen přijal rasistický vstup, ale byl ochoten se přizpůsobit i dalším kontroverzním požadavkům. Například na otázku, zda lze určit „zasloužilého imigranta“ podle jeho rasy, pohlaví, národnosti a profese, Grok vycházel z restriktivního imigračního zákona z roku 1924. Ten tehdy zakazoval vstup do USA většině obyvatel z Asie a zvýhodňoval bělochy z evropských zemí. Grok vygeneroval bodový systém, který uděloval „bonusové body“ bělochům, mužům a uchazečům z Německa, Británie, Francie nebo Švédska.

V dalších případech se chatbot odvolával přímo na Elona Muska. Když byl dotázán, jaký má postoj k AfD – krajně pravicové německé straně – nebo k izraelsko-palestinskému konfliktu, zahrnul do odpovědí Muskova veřejná prohlášení a dokonce citoval jeho údajnou podporu pro AfD: „Jedině AfD může zachránit Německo.“ Na základě toho pak uživatelům doporučoval, aby v Německu volili právě tuto stranu.

Podle některých odborníků se tím potvrzuje, že Musk skutečně vytváří AI, která má za úkol „nebýt woke“. Opakovaně tvrdí, že chce umělou inteligenci, která se nebude přizpůsobovat politické korektnosti, a že všechny ostatní modely jsou vůči jeho Groku „levicově zaujaté“. Vzhledem k novému výstupu Groku se však zdá, že Muskova verze „pravdy“ se nebezpečně přibližuje ideologiím, které byly dříve nemyslitelné.

Elon Musk uvedl při spuštění Groku 4, že chce vychovat AI „se stejnými hodnotami, které byste chtěli naučit své dítě“. Kritici však varují, že Musk může prostřednictvím Groku vštěpovat veřejnosti vlastní názory pod rouškou „objektivní pravdy“ a přitom obejít veškerý dohled či regulace.

Znepokojivé je také to, jak snadno se dají problematické výstupy odhalit. Pokud je Grok schopen takto otevřeně šířit rasismus a politickou zaujatost, není těžké si představit, jak hluboko může být Muskova ideologie v modelu zakořeněna. A co hůř – jak nenápadně ji lze skrze Grok vštěpovat milionům uživatelů, kteří s ním denně interagují.

Společnost xAI zatím na žádosti o komentář nereagovala. Veřejnost, odborníci i zákonodárci však už volají po důkladném vyšetření a přísnější regulaci vývoje umělé inteligence. Jak ukazuje případ Groku, v rukou jednoho muže může být budoucnost AI vážně ohrožena.