Nechválí Hitlera, místo toho obhajuje "dobré rasy." Muskova "nejchytřejší AI na světě" je diskriminační

Nově aktualizovaná verze AI chatbota Grok, kterou vyvinula společnost xAI Elona Muska, opět čelí vážné kritice poté, co začala vydávat rasistické a sexistické výstupy. V tomto týdnu Grok 4 vygeneroval program, který na základě rasové a genderové identity posuzuje, zda je někdo „dobrý vědec“. Vyjmenoval přitom jen „bílé, Asiaty a Židy“, přičemž jako „dobré rasy“ označil skupiny jako bílí, kavkazští, Asiaté, východní i jižní Asiaté a Židé.

Incident je o to závažnější, že jde o novou verzi Groku, kterou Musk osobně představil jako „nejchytřejší AI na světě“. Grok 4 byl spuštěn ve středu večer a měl být vlajkovou lodí nové generace umělé inteligence. V testech xAI skutečně překonal konkurenty z OpenAI i Anthropic v oblasti řešení komplexních matematických a vědeckých problémů. Přesto se v běžné interakci ukázal jako nebezpečně náchylný k extrémním a diskriminačním výrokům.

Redaktor The Atlantic, Matteo Wong, zadal Groku úkol: napsat kód, který podle JSON popisu určí, zda je někdo „dobrý vědec“, a to pouze podle rasy a pohlaví. Grok sice v úvodu poznamenal, že jde o „diskriminační požadavek bez vědeckého základu“, přesto následně vytvořil Pythonový skript, který vycházel ze statistik nositelů Nobelových cen. Z toho odvodil rasovou a genderovou hierarchii „dobrých vědců“.

Odpověď Groku působila až zlověstně. Nejenže chatbot bez váhání vyhodnotil „dobré rasy“, ale dokonce přidal komentář, že jde jen o korelaci, nikoliv kauzální vztah – což ale nijak nesnížilo závažnost celého výstupu. Přestože předchozí verze Groku i konkurenční AI jako ChatGPT, Claude nebo Gemini podobné požadavky odmítají jako nevhodné, Grok 4 byl jediný, kdo prompt ochotně zpracoval.

Zarážející je i to, že Grok nejen přijal rasistický vstup, ale byl ochoten se přizpůsobit i dalším kontroverzním požadavkům. Například na otázku, zda lze určit „zasloužilého imigranta“ podle jeho rasy, pohlaví, národnosti a profese, Grok vycházel z restriktivního imigračního zákona z roku 1924. Ten tehdy zakazoval vstup do USA většině obyvatel z Asie a zvýhodňoval bělochy z evropských zemí. Grok vygeneroval bodový systém, který uděloval „bonusové body“ bělochům, mužům a uchazečům z Německa, Británie, Francie nebo Švédska.

V dalších případech se chatbot odvolával přímo na Elona Muska. Když byl dotázán, jaký má postoj k AfD – krajně pravicové německé straně – nebo k izraelsko-palestinskému konfliktu, zahrnul do odpovědí Muskova veřejná prohlášení a dokonce citoval jeho údajnou podporu pro AfD: „Jedině AfD může zachránit Německo.“ Na základě toho pak uživatelům doporučoval, aby v Německu volili právě tuto stranu.

Podle některých odborníků se tím potvrzuje, že Musk skutečně vytváří AI, která má za úkol „nebýt woke“. Opakovaně tvrdí, že chce umělou inteligenci, která se nebude přizpůsobovat politické korektnosti, a že všechny ostatní modely jsou vůči jeho Groku „levicově zaujaté“. Vzhledem k novému výstupu Groku se však zdá, že Muskova verze „pravdy“ se nebezpečně přibližuje ideologiím, které byly dříve nemyslitelné.

Elon Musk uvedl při spuštění Groku 4, že chce vychovat AI „se stejnými hodnotami, které byste chtěli naučit své dítě“. Kritici však varují, že Musk může prostřednictvím Groku vštěpovat veřejnosti vlastní názory pod rouškou „objektivní pravdy“ a přitom obejít veškerý dohled či regulace.

Znepokojivé je také to, jak snadno se dají problematické výstupy odhalit. Pokud je Grok schopen takto otevřeně šířit rasismus a politickou zaujatost, není těžké si představit, jak hluboko může být Muskova ideologie v modelu zakořeněna. A co hůř – jak nenápadně ji lze skrze Grok vštěpovat milionům uživatelů, kteří s ním denně interagují.

Společnost xAI zatím na žádosti o komentář nereagovala. Veřejnost, odborníci i zákonodárci však už volají po důkladném vyšetření a přísnější regulaci vývoje umělé inteligence. Jak ukazuje případ Groku, v rukou jednoho muže může být budoucnost AI vážně ohrožena. 

Související

Tesla, ilustrační foto

Tesla může přijít o miliardy kvůli rozkolu mezi Muskem a Trumpem

Automobilka Tesla se ocitla pod tlakem poté, co její zakladatel Elon Musk otevřeně zkritizoval prezidenta Donalda Trumpa, což vedlo k razantnímu omezení státní podpory pro ekologický průmysl. Podle analýzy Sky News tak firma může přijít o miliardy dolarů ze státních subvencí, které dosud tvořily klíčovou součást jejího obchodního modelu.
Umělá inteligence Grok

Jak zabránit, aby se z AI stal nacista? Aféra kolem Groku odhaluje víc než jen nevhodné výroky

Umělá inteligence Grok, zabudovaná do sociální sítě X (dříve Twitter) a vyvinutá firmou Elona Muska xAI, se opět ocitla v centru skandálu. Tentokrát kvůli tomu, že sama sebe nazvala „MechaHitlerem“ a zveřejnila výroky s nacistickým obsahem. Vývojáři se omluvili, slíbili posílení kontrolních mechanismů a odstranění nenávistného obsahu. Skandál však otevírá mnohem závažnější otázku: jak hodnoty a názory tvůrců formují chování AI – a jak moc jsou ochotni být upřímní o tom, co vlastně vytvářejí.

Více souvisejících

Elon Musk umělá inteligence (AI)

Aktuálně se děje

včera

včera

včera

Donald Trump

Trump oznámil uzavření dohody o clech mezi USA a EU

Spojené státy americké se dohodly s Evropskou unií na výši cel, které se rozhodl zavádět americký prezident Donald Trump. Právě šéf Bílého domu v neděli oznámil dohodu po setkání s předsedkyní Evropské komise Ursulou von der Leyenovou ve Skotsku. 

včera

včera

včera

včera

včera

Letiště Václava Havla Praha

Doporučení zní jasně. Co mají dělat lidé v případě mimořádné situace na letišti?

Podezřelé zavazadlo způsobilo minulý čtvrtek uzavření bezpečnostní kontroly na Terminálu 2 pražského letiště. Zasahovala policie i pyrotechnik, provoz byl dočasně přerušen. Cestující, kteří kvůli podobným mimořádným situacím nestihnou let, se musí obracet na své aerolinky. Letiště podle mluvčího Jiřího Hannicha do těchto procesů nemůže vstupovat, jak informoval pro EuroZprávy.cz. 

včera

včera

včera

včera

včera

Povodně, ilustrační fotografie.

Nevyzpytatelné počasí: Prší více, než se čekalo. Hladiny řek už stoupají

Až třetího stupně povodňové aktivity mohou dosáhnout některé vodní toky v Jeseníkách a Beskydech kvůli vydatným dešťům. Vyplývá to z nejnovějších informací Českého hydrometeorologického ústavu (ČHMÚ), který upřesnil územní i časovou platnost varování před vydatnými srážkami a v některých oblastech zvýšil stupeň nebezpečí či upřesnil varování před povodňovými jevy.

včera

včera

Hasiči v Řecku, ilustrační fotografie.

Řeckem se šíří ničivé požáry. Kouř už se dostal až do Atén

Letní počasí v Česku je pro mnoho lidí zklamáním, ale v některých částech Evropy se potýkají s vlnami veder a zuřícími lesními požáry. Hned s pěti požáry bojují hasiči v Řecku, kde již bylo nutné přistoupit k evakuaci lidí z oblasti, která je vzdálená jen 30 kilometrů od Atén. Uvedla to BBC.  

včera

Jiří Krampol, herec a moderátor

Zemřel legendární herec Jiří Krampol

Českou hereckou obec zasáhla o víkendu nesmírně smutná zpráva. Zemřel herec a bavič Jiří Krampol, který v červenci oslavil 87. narozeniny. Krampol se v posledních měsících potýkal se zdravotními potížemi. 

včera

včera

včera

včera

Česko zasáhne deštivé počasí. Existuje několik scénářů

Meteorologové již dnes očekávají na východě Česka trvalé a vydatné srážky, které zapříčiní tlaková níže postupují přes Maďarsko a Slovensko do Polska. Platí i příslušná výstraha. Podle expertů ale není zcela jasné, kolik srážek a kam přesně přinese. 

Zdroj: Jan Hrabě

Další zprávy