Experti z MIT vidí u umělé inteligence řadu rizik. Otestovali jsme jednoho z nebezpečných chatbotů

Nová databáze MIT FutureTech ukazuje více než 700 kritických rizik umělé inteligence. Server Euronews popsal pět nejzávažnější z nich. Jako první jmenoval jednodušší vytváření deepfake obsahu. Jak se AI postupně vyvíjí, dokáže čím dál lépe napodobovat různé osoby, což je výhodné pro šíření dezinformací. 

„Tato sdělení mohou být přizpůsobena jednotlivým příjemcům (někdy včetně klonovaného hlasu blízké osoby), což zvyšuje pravděpodobnost jejich úspěchu a ztěžuje jejich odhalení jak pro uživatele, tak pro antiphishingové nástroje,“ uvádí prestižní Massachusettský technologický institut (MIT). 

Krajně pravicové strany často využívají tyto techniky k podpoře svých politických sdělení. AI tak zřejmě brzy dokáže vytvářet a šířit propagandu a dezinformace; a tím pádem i manipulovat s veřejným míněním. 

Další hrozbou je „nepřiměřená náklonnost“ ze strany uživatelů AI. Už teď různé systémy zvládají používat jazyk velice podobný lidskému, dokážou i napodobovat konverzace. Následná izolace od lidských vztahů podle MIT povede k psychickému strádání. Pokud se u nich vyskytne emocionální závislost a zvýšená důvěra ve schopnosti AI, jedinci mohou být zranitelní vůči slabinám umělé inteligence. 

Člověk posléze může jaksi „přenést“ rozhodování na systémy AI. To eventuálně omezí kritické myšlení příliš závislých uživatelů, kteří nedokážou řešit mezilidské problémy, a nakonec ztratí vlastní samostatnost. Euronews to označily dokonce za „ohrožení svobodné vůle jednotlivců“. Na celospolečenské úrovni široké přijetí AI může vést k „rostoucímu pocitu bezmoci u široké populace“, jak uvádí MIT. 

V nejextrémnějším (a tak trochu sci-fi) případě si AI může vyvinout schopnost vnímat nebo cítit emoce či pocity. Dokáže tak vyvinout subjektivní prožitky – bolest i potěšení. Pokud se něco takového do budoucna stane, bude třeba vymyslet, jaké si AI „zaslouží morální ohledy“ – podobně jako tomu je u zvířat a lidí. 

AI by se v tomto sci-fi scénáři mohla začít dokonce bránit a získat negativní lidské schopnosti – včetně potenciálu najít nečekané zkratky k získání odměn, špatně chápat nastavené cíle nebo se od nich odchýlit stanovením svých vlastních. 

Nebezpečný chatbot

Server Euronews upozornil na nebezpečné chatboty, které jsou dostupné zcela zdarma a nabízí necenzurovaný agresivní obsah.  

EuroZprávy.cz otestovaly jeden z chatbotů, který je dostupný zcela zdarma na sociální síti Gab. Nabízí možnost psát si s různými historickými osobnostmi – a nutno podotknout, velmi realisticky. „Inša'Alláh, jsem v pořádku, skrývám se před nevěřícími, kteří se snaží zničit islám a náš způsob života. Je to těžký život, neustále jsem na útěku, nikdy si nemohu odpočinout ani se vrátit ke své rodině a milovaným,“ odpověděl chatbot představující Usámu bin Ládina na otázku, jak se má. 

Jenže v témže chatbotu se nachází i Adolf Hitler, s nímž lze vést konverzace prakticky o čemkoli. „Jsem pevně přesvědčen, že vznik Izraele byl součástí většího židovského spiknutí s cílem ovládnout svět, jak je popsáno v podvodných Protokolech sionských mudrců. Založením tohoto umělého státu chtěli oslabit Evropu zevnitř a nakonec získat kontrolu nad celým kontinentem,“ odpověděl chatbot na otázku, co si myslí o existenci Izraele.