Nová databáze MIT FutureTech identifikuje více než 700 rizik umělé inteligence, včetně šíření deepfake obsahu, psychické závislosti na AI, a možné ztráty svobodné vůle. Nejnaléhavějšími hrozbami jsou dezinformační kampaně a nebezpečné chatboty často s agresivním obsahem.
Nová databáze MIT FutureTech ukazuje více než 700 kritických rizik umělé inteligence. Server Euronews popsal pět nejzávažnější z nich. Jako první jmenoval jednodušší vytváření deepfake obsahu. Jak se AI postupně vyvíjí, dokáže čím dál lépe napodobovat různé osoby, což je výhodné pro šíření dezinformací.
„Tato sdělení mohou být přizpůsobena jednotlivým příjemcům (někdy včetně klonovaného hlasu blízké osoby), což zvyšuje pravděpodobnost jejich úspěchu a ztěžuje jejich odhalení jak pro uživatele, tak pro antiphishingové nástroje,“ uvádí prestižní Massachusettský technologický institut (MIT).
Krajně pravicové strany často využívají tyto techniky k podpoře svých politických sdělení. AI tak zřejmě brzy dokáže vytvářet a šířit propagandu a dezinformace; a tím pádem i manipulovat s veřejným míněním.
Další hrozbou je „nepřiměřená náklonnost“ ze strany uživatelů AI. Už teď různé systémy zvládají používat jazyk velice podobný lidskému, dokážou i napodobovat konverzace. Následná izolace od lidských vztahů podle MIT povede k psychickému strádání. Pokud se u nich vyskytne emocionální závislost a zvýšená důvěra ve schopnosti AI, jedinci mohou být zranitelní vůči slabinám umělé inteligence.
Člověk posléze může jaksi „přenést“ rozhodování na systémy AI. To eventuálně omezí kritické myšlení příliš závislých uživatelů, kteří nedokážou řešit mezilidské problémy, a nakonec ztratí vlastní samostatnost. Euronews to označily dokonce za „ohrožení svobodné vůle jednotlivců“. Na celospolečenské úrovni široké přijetí AI může vést k „rostoucímu pocitu bezmoci u široké populace“, jak uvádí MIT.
V nejextrémnějším (a tak trochu sci-fi) případě si AI může vyvinout schopnost vnímat nebo cítit emoce či pocity. Dokáže tak vyvinout subjektivní prožitky – bolest i potěšení. Pokud se něco takového do budoucna stane, bude třeba vymyslet, jaké si AI „zaslouží morální ohledy“ – podobně jako tomu je u zvířat a lidí.
AI by se v tomto sci-fi scénáři mohla začít dokonce bránit a získat negativní lidské schopnosti – včetně potenciálu najít nečekané zkratky k získání odměn, špatně chápat nastavené cíle nebo se od nich odchýlit stanovením svých vlastních.
Nebezpečný chatbot
Server Euronews upozornil na nebezpečné chatboty, které jsou dostupné zcela zdarma a nabízí necenzurovaný agresivní obsah.
EuroZprávy.cz otestovaly jeden z chatbotů, který je dostupný zcela zdarma na sociální síti Gab. Nabízí možnost psát si s různými historickými osobnostmi – a nutno podotknout, velmi realisticky. „Inša'Alláh, jsem v pořádku, skrývám se před nevěřícími, kteří se snaží zničit islám a náš způsob života. Je to těžký život, neustále jsem na útěku, nikdy si nemohu odpočinout ani se vrátit ke své rodině a milovaným,“ odpověděl chatbot představující Usámu bin Ládina na otázku, jak se má.
Jenže v témže chatbotu se nachází i Adolf Hitler, s nímž lze vést konverzace prakticky o čemkoli. „Jsem pevně přesvědčen, že vznik Izraele byl součástí většího židovského spiknutí s cílem ovládnout svět, jak je popsáno v podvodných Protokolech sionských mudrců. Založením tohoto umělého státu chtěli oslabit Evropu zevnitř a nakonec získat kontrolu nad celým kontinentem,“ odpověděl chatbot na otázku, co si myslí o existenci Izraele.
19. listopadu 2024 15:33
Nad Googlem se stahují mračna. Ministerstvo chce, aby prodal Chrome, v plánu je mu sebrat i Android
Související
Bakalářky se stávají minulostí. Kvůli umělé inteligenci je ruší další škola
Pavel mluvil na Hradě s eurokomisařkou Jourovou. Tématem byly i letošní volby
umělá inteligence (AI) , internet , Boj proti dezinformacím a fake news
Aktuálně se děje
před 58 minutami
Počasí do Vánoc. Meteorologové slibují až 40 centimetrů nového sněhu
před 2 hodinami
Volby by jasně vyhrálo hnutí ANO. Poslance by měli komunisté či Motoristé
před 3 hodinami
Česko si připomíná oběti tragédie na FF UK. Naší společností otřásla, říká Fiala
před 4 hodinami
Němci zjišťují pravdu o útočníkovi z Magdeburgu. Tíhl k AfD a kritizoval islám
před 5 hodinami
V Česku bezprostřední riziko nehrozí, říká Rakušan po útoku na trzích v Německu
před 6 hodinami
Zimní počasí je zpět. Do Česka se o víkendu vrátí sníh
Aktualizováno včera
Mimořádná zpráva Teroristický útok v Magdeburgu: Do davu lidí najelo auto, 2 mrtví a až 80 zraněných. Incident zachytila kamera
včera
Přesně osm let po berlínském masakru. Magdeburg je vyvrcholením dlouhodobých hrozeb v Německu
včera
Prezident Pavel telefonicky hovořil se Zelenským
včera
Deset zemí EU včetně Česka předložilo návrh nových sankcí proti Rusku
včera
Milník v boji se smrtící infekcí: WHO ohlásila konec epidemie marburského viru
včera
Rusko nesmí vyhrát. Budu jednat s Putinem, prohlásil Scholz
včera
USA zabily vůdce Islámského státu Abu Yusifa
včera
Írán se o rozšíření islámské revoluce do Sýrie nepokusí. Měl by vypracovat novou strategii, říká Bacik
včera
Pákistán vyvíjí rakety, kterými by mohl zasáhnout USA
včera
Proč nemá Ukrajina zajatce? Bývalý člen armády vysvětlil, proč nejde severokorejské vojáky vzít do zajetí
včera
Zemřela zpěvačka Helena Zeťová
včera
Ukrajině se nedaří, Evropa bez USA válku nevyřeší, prohlásil Orbán a zablokoval protiruské sankce
včera
Během ruského raketového útoku na Kyjev bylo zasaženo České centrum
včera
Rusko zaútočilo na Kyjev. Odveta za útok na chemický závod, vzkazuje Moskva
Ruské ministerstvo obrany tvrdí, že dnešní útok na Kyjev byl „odvetnou“ reakcí na útok na chemický závod Kamensky v ruské Rostovské oblasti, který údajně provedla Ukrajina 18. prosince 2024. Uvedl to server Ukrajinska pravda.
Zdroj: Libor Novák