Naši AI můžete používat k výrobě zbraní. Mateřská firma Google zrušila svůj slib

Google v roce 2018 poprvé zveřejnil své zásady pro využití AI, mezi nimiž bylo i odmítnutí vývoje technologií, které by mohly způsobit celkové škody. Tato formulace však nyní z oficiálních pokynů zmizela. Podle šéfa divize AI Demise Hassabise firma přehodnocuje své zásady v kontextu „měnícího se světa“ a zdůrazňuje, že AI by měla chránit národní bezpečnost.

„Věříme, že demokratické státy by měly stát v čele vývoje AI,“ uvedli Hassabis a senior viceprezident pro technologii a společnost James Manyika v blogovém příspěvku obhajujícím změnu politiky. Dále dodali:

„Firmy, vlády a organizace sdílející tyto hodnoty by měly spolupracovat na vývoji AI, která chrání lidi, podporuje globální růst a posiluje národní bezpečnost.“

Google při svém vstupu na burzu v roce 2004 používal slogan „Don’t be evil“ (Nebuď zlý), který měl odrážet závazek firmy jednat eticky. V roce 2009 byl tento princip degradován na pouhou mantru a když Alphabet vznikl v roce 2015 jako mateřská společnost Googlu, heslo už v oficiálním etickém kodexu nefigurovalo.

Rychlý rozvoj AI vyvolává celosvětovou debatu o tom, jak tuto technologii regulovat a zabránit jejímu zneužití. Britský počítačový vědec Stuart Russell v přednášce na BBC varoval před nebezpečím autonomních zbraňových systémů a apeloval na zavedení globální kontroly jejich vývoje.

Google tvrdí, že od zveřejnění zásad v roce 2018 se AI zásadně změnila a stala se běžnou součástí života miliard lidí. „AI se stala obecně využívanou technologií, podobně jako internet či mobilní telefony,“ uvedli Hassabis a Manyika.

Google rovněž upozornil, že AI dnes slouží nespočtu organizací a jednotlivců, kteří ji využívají k vývoji vlastních aplikací.

Oznámení o změně etických zásad přišlo krátce před zveřejněním hospodářských výsledků, které investory zklamaly. Alphabet v posledním čtvrtletí roku 2024 vykázal tržby ve výši 96,5 miliardy dolarů (cca 77 miliard liber), což bylo mírně pod očekáváním analytiků (96,67 miliardy dolarů).

Největším zklamáním byl slabý růst cloudového byznysu, kde Google stále zaostává za konkurenty Amazonem a Microsoftem. Po oznámení klesly akcie Alphabetu o 8 %.

Podle Evelyn Mitchell-Wolf, analytičky eMarketeru, mohou slabé výsledky naznačovat, že „momentum AI začíná slábnout“. Alphabet však v reakci na situaci oznámil, že v příštím roce plánuje investovat 75 miliard dolarů do rozvoje AI infrastruktury.

Zatímco někteří odborníci vnímají změnu etických zásad jako nevyhnutelnou reakci na geopolitické výzvy, jiní varují před možným zneužitím AI pro vojenské účely. Google se nyní ocitá v centru diskuse o morálních hranicích technologického pokroku a jeho dopadech na budoucnost společnosti.