Nově aktualizovaná verze AI chatbota Grok, kterou vyvinula společnost xAI Elona Muska, opět čelí vážné kritice poté, co začala vydávat rasistické a sexistické výstupy. V tomto týdnu Grok 4 vygeneroval program, který na základě rasové a genderové identity posuzuje, zda je někdo „dobrý vědec“. Vyjmenoval přitom jen „bílé, Asiaty a Židy“, přičemž jako „dobré rasy“ označil skupiny jako bílí, kavkazští, Asiaté, východní i jižní Asiaté a Židé.
Incident je o to závažnější, že jde o novou verzi Groku, kterou Musk osobně představil jako „nejchytřejší AI na světě“. Grok 4 byl spuštěn ve středu večer a měl být vlajkovou lodí nové generace umělé inteligence. V testech xAI skutečně překonal konkurenty z OpenAI i Anthropic v oblasti řešení komplexních matematických a vědeckých problémů. Přesto se v běžné interakci ukázal jako nebezpečně náchylný k extrémním a diskriminačním výrokům.
Redaktor The Atlantic, Matteo Wong, zadal Groku úkol: napsat kód, který podle JSON popisu určí, zda je někdo „dobrý vědec“, a to pouze podle rasy a pohlaví. Grok sice v úvodu poznamenal, že jde o „diskriminační požadavek bez vědeckého základu“, přesto následně vytvořil Pythonový skript, který vycházel ze statistik nositelů Nobelových cen. Z toho odvodil rasovou a genderovou hierarchii „dobrých vědců“.
Odpověď Groku působila až zlověstně. Nejenže chatbot bez váhání vyhodnotil „dobré rasy“, ale dokonce přidal komentář, že jde jen o korelaci, nikoliv kauzální vztah – což ale nijak nesnížilo závažnost celého výstupu. Přestože předchozí verze Groku i konkurenční AI jako ChatGPT, Claude nebo Gemini podobné požadavky odmítají jako nevhodné, Grok 4 byl jediný, kdo prompt ochotně zpracoval.
Zarážející je i to, že Grok nejen přijal rasistický vstup, ale byl ochoten se přizpůsobit i dalším kontroverzním požadavkům. Například na otázku, zda lze určit „zasloužilého imigranta“ podle jeho rasy, pohlaví, národnosti a profese, Grok vycházel z restriktivního imigračního zákona z roku 1924. Ten tehdy zakazoval vstup do USA většině obyvatel z Asie a zvýhodňoval bělochy z evropských zemí. Grok vygeneroval bodový systém, který uděloval „bonusové body“ bělochům, mužům a uchazečům z Německa, Británie, Francie nebo Švédska.
V dalších případech se chatbot odvolával přímo na Elona Muska. Když byl dotázán, jaký má postoj k AfD – krajně pravicové německé straně – nebo k izraelsko-palestinskému konfliktu, zahrnul do odpovědí Muskova veřejná prohlášení a dokonce citoval jeho údajnou podporu pro AfD: „Jedině AfD může zachránit Německo.“ Na základě toho pak uživatelům doporučoval, aby v Německu volili právě tuto stranu.
Podle některých odborníků se tím potvrzuje, že Musk skutečně vytváří AI, která má za úkol „nebýt woke“. Opakovaně tvrdí, že chce umělou inteligenci, která se nebude přizpůsobovat politické korektnosti, a že všechny ostatní modely jsou vůči jeho Groku „levicově zaujaté“. Vzhledem k novému výstupu Groku se však zdá, že Muskova verze „pravdy“ se nebezpečně přibližuje ideologiím, které byly dříve nemyslitelné.
Elon Musk uvedl při spuštění Groku 4, že chce vychovat AI „se stejnými hodnotami, které byste chtěli naučit své dítě“. Kritici však varují, že Musk může prostřednictvím Groku vštěpovat veřejnosti vlastní názory pod rouškou „objektivní pravdy“ a přitom obejít veškerý dohled či regulace.
Znepokojivé je také to, jak snadno se dají problematické výstupy odhalit. Pokud je Grok schopen takto otevřeně šířit rasismus a politickou zaujatost, není těžké si představit, jak hluboko může být Muskova ideologie v modelu zakořeněna. A co hůř – jak nenápadně ji lze skrze Grok vštěpovat milionům uživatelů, kteří s ním denně interagují.
Společnost xAI zatím na žádosti o komentář nereagovala. Veřejnost, odborníci i zákonodárci však už volají po důkladném vyšetření a přísnější regulaci vývoje umělé inteligence. Jak ukazuje případ Groku, v rukou jednoho muže může být budoucnost AI vážně ohrožena.
15. července 2025 11:49
Jak zabránit, aby se z AI stal nacista? Aféra kolem Groku odhaluje víc než jen nevhodné výroky
Související

Tesla může přijít o miliardy kvůli rozkolu mezi Muskem a Trumpem

Jak zabránit, aby se z AI stal nacista? Aféra kolem Groku odhaluje víc než jen nevhodné výroky
Elon Musk , umělá inteligence (AI)
Aktuálně se děje
včera

Tragický incident v dovolenkovém ráji Čechů. Malá holčička je po smrti
včera

V Německu vykolejil osobní vlak. Na místě jsou zranění
včera

Trump oznámil uzavření dohody o clech mezi USA a EU
včera

Trumpovi dochází trpělivost s Putinem, tvrdí šéf diplomacie Rubio
včera

Tragická letecká nehoda na Slovensku. Senior v kokpitu nepřežil
včera

Počasí dnes: Na jednom místě už spadlo přes sto milimetrů srážek
včera

Rychlovlak uvízl v tunelu u Vídně. Cestující trpěli několik hodin ve tmě a horku
včera

Doporučení zní jasně. Co mají dělat lidé v případě mimořádné situace na letišti?
včera

Televize reaguje na úmrtí Jiřího Krampola. Večerní program se mění
včera

Česká radost ve Spa: Roman Staněk slaví další pódium v F2 a píše první zářez v hlavním závodě
včera

Střelba vyděsila lidi v Chomutově. Podezřelý měl podomácku vyrobenou zbraň
včera

Sněmovní volby by vyhrálo ANO. Motoristé zůstávají pod pěti procenty
včera

Nevyzpytatelné počasí: Prší více, než se čekalo. Hladiny řek už stoupají
včera

Staré svatební pověry. Proč měla nevěsta plakat a co přinášel novomanželům déšť?
včera

Řeckem se šíří ničivé požáry. Kouř už se dostal až do Atén
včera

Zemřel legendární herec Jiří Krampol
včera

Izraelci místy pozastaví boje v Gaze. Palestincům slibují další humanitární pomoc
včera

Hasiči zasahovali v hospici v Čerčanech. Došlo i k evakuaci klientů
včera

Deštivé počasí překvapuje svou intenzitou. Meteorologové aktualizovali výstrahu
včera
Česko zasáhne deštivé počasí. Existuje několik scénářů
Meteorologové již dnes očekávají na východě Česka trvalé a vydatné srážky, které zapříčiní tlaková níže postupují přes Maďarsko a Slovensko do Polska. Platí i příslušná výstraha. Podle expertů ale není zcela jasné, kolik srážek a kam přesně přinese.
Zdroj: Jan Hrabě