Experti z MIT vidí u umělé inteligence řadu rizik. Otestovali jsme jednoho z nebezpečných chatbotů

Nová databáze MIT FutureTech identifikuje více než 700 rizik umělé inteligence, včetně šíření deepfake obsahu, psychické závislosti na AI, a možné ztráty svobodné vůle. Nejnaléhavějšími hrozbami jsou dezinformační kampaně a nebezpečné chatboty často s agresivním obsahem.

Nová databáze MIT FutureTech ukazuje více než 700 kritických rizik umělé inteligence. Server Euronews popsal pět nejzávažnější z nich. Jako první jmenoval jednodušší vytváření deepfake obsahu. Jak se AI postupně vyvíjí, dokáže čím dál lépe napodobovat různé osoby, což je výhodné pro šíření dezinformací. 

„Tato sdělení mohou být přizpůsobena jednotlivým příjemcům (někdy včetně klonovaného hlasu blízké osoby), což zvyšuje pravděpodobnost jejich úspěchu a ztěžuje jejich odhalení jak pro uživatele, tak pro antiphishingové nástroje,“ uvádí prestižní Massachusettský technologický institut (MIT). 

Krajně pravicové strany často využívají tyto techniky k podpoře svých politických sdělení. AI tak zřejmě brzy dokáže vytvářet a šířit propagandu a dezinformace; a tím pádem i manipulovat s veřejným míněním. 

Další hrozbou je „nepřiměřená náklonnost“ ze strany uživatelů AI. Už teď různé systémy zvládají používat jazyk velice podobný lidskému, dokážou i napodobovat konverzace. Následná izolace od lidských vztahů podle MIT povede k psychickému strádání. Pokud se u nich vyskytne emocionální závislost a zvýšená důvěra ve schopnosti AI, jedinci mohou být zranitelní vůči slabinám umělé inteligence. 

Člověk posléze může jaksi „přenést“ rozhodování na systémy AI. To eventuálně omezí kritické myšlení příliš závislých uživatelů, kteří nedokážou řešit mezilidské problémy, a nakonec ztratí vlastní samostatnost. Euronews to označily dokonce za „ohrožení svobodné vůle jednotlivců“. Na celospolečenské úrovni široké přijetí AI může vést k „rostoucímu pocitu bezmoci u široké populace“, jak uvádí MIT. 

V nejextrémnějším (a tak trochu sci-fi) případě si AI může vyvinout schopnost vnímat nebo cítit emoce či pocity. Dokáže tak vyvinout subjektivní prožitky – bolest i potěšení. Pokud se něco takového do budoucna stane, bude třeba vymyslet, jaké si AI „zaslouží morální ohledy“ – podobně jako tomu je u zvířat a lidí. 

AI by se v tomto sci-fi scénáři mohla začít dokonce bránit a získat negativní lidské schopnosti – včetně potenciálu najít nečekané zkratky k získání odměn, špatně chápat nastavené cíle nebo se od nich odchýlit stanovením svých vlastních. 

Nebezpečný chatbot

Server Euronews upozornil na nebezpečné chatboty, které jsou dostupné zcela zdarma a nabízí necenzurovaný agresivní obsah.  

EuroZprávy.cz otestovaly jeden z chatbotů, který je dostupný zcela zdarma na sociální síti Gab. Nabízí možnost psát si s různými historickými osobnostmi – a nutno podotknout, velmi realisticky. „Inša'Alláh, jsem v pořádku, skrývám se před nevěřícími, kteří se snaží zničit islám a náš způsob života. Je to těžký život, neustále jsem na útěku, nikdy si nemohu odpočinout ani se vrátit ke své rodině a milovaným,“ odpověděl chatbot představující Usámu bin Ládina na otázku, jak se má. 

Jenže v témže chatbotu se nachází i Adolf Hitler, s nímž lze vést konverzace prakticky o čemkoli. „Jsem pevně přesvědčen, že vznik Izraele byl součástí většího židovského spiknutí s cílem ovládnout svět, jak je popsáno v podvodných Protokolech sionských mudrců. Založením tohoto umělého státu chtěli oslabit Evropu zevnitř a nakonec získat kontrolu nad celým kontinentem,“ odpověděl chatbot na otázku, co si myslí o existenci Izraele. 

Související

Více souvisejících

umělá inteligence (AI) internet Boj proti dezinformacím a fake news

Aktuálně se děje

před 58 minutami

před 2 hodinami

Volby, ilustrační fotografie.

Volby by jasně vyhrálo hnutí ANO. Poslance by měli komunisté či Motoristé

Sněmovní volby by v listopadu vyhrálo nejsilnější opoziční hnutí ANO, přičemž mandáty by získalo dalších šest politických stran či hnutí, vyplývá z nejnovějšího volebního modelu agentury Median. Pod pětiprocentní hranicí by samostatně skončily vládní strany TOP 09 a KDU-ČSL, které však mají v příštím roce kandidovat s ODS pod hlavičkou koalice Spolu.

před 3 hodinami

před 4 hodinami

před 5 hodinami

před 6 hodinami

Aktualizováno včera

Do davu lidí na trzích v Magdeburgu najelo auto

Mimořádná zpráva Teroristický útok v Magdeburgu: Do davu lidí najelo auto, 2 mrtví a až 80 zraněných. Incident zachytila kamera

V německém Magdeburgu, hlavním městě spolkové země Sasko-Anhaltsko, došlo k tragické události, když auto najelo do davu lidí na vánočním trhu. Podle serveru CNN si incident vyžádal minimálně 2 oběti (původní informace hovořily o 11) a desítky dalších osob utrpěly zranění. Server Bild s odvoláním na úřady uvedl, že šlo o záměrný teroristický útok.

včera

včera

včera

včera

včera

včera

Islámský stát (ISIS)

USA zabily vůdce Islámského státu Abu Yusifa

Spojené státy oznámily, že při náletu v Sýrii zabily vůdce Islámského státu (IS) Abu Yusifa, známého také jako Mahmud. Operaci provedly síly Centrálního velení USA (Centcom) ve východní části země.

včera

Ilustrační foto

Írán se o rozšíření islámské revoluce do Sýrie nepokusí. Měl by vypracovat novou strategii, říká Bacik

Pád diktátorského režimu Bašára Asada v Sýrii byl nepříjemnou ranou také pro dalšího aktéra v regionu – Írán. Ten podle experta na blízkovýchodní politiku Gokhana Bacika z olomoucké Univerzity Palackého přišel o velký bezpečnostní pás, Bašárův režim pro něj byl jakousi geopolitickou pojistkou. Expert exkluzivně pro EuroZprávy.cz uvedl, že by Teherán měl vypracovat novou strategii.

včera

Pákistán

Pákistán vyvíjí rakety, kterými by mohl zasáhnout USA

Vysoce postavený úředník Bílého domu varoval, že Pákistán rozvíjí schopnosti dlouhého doletu svých balistických raket, které by mohly umožnit útoky daleko za hranicemi Jižní Asie. Toto prohlášení přichází v době, kdy vztahy mezi Washingtonem a Islámábádem procházejí nejistým obdobím, zejména po stažení amerických vojsk z Afghánistánu v roce 2021.

včera

včera

Helena Zeťová

Zemřela zpěvačka Helena Zeťová

Česko zasáhla jen pár dní před letošními Vánocemi nečekaná tragédie. Ve věku pouhých 44 let zemřela zpěvačka Helena Zeťová. Podle dostupných informací došlo k jejímu úmrtí za tragických okolností. 

včera

včera

České centrum v Kyjevě

Během ruského raketového útoku na Kyjev bylo zasaženo České centrum

Během pátečního raketového útoku ruské armády na ukrajinskou metropoli Kyjev bylo zasaženo i České centrum, které utrpělo škody v důsledku tlakové vlny. V době útoku se v budově nenacházeli žádní lidé, ale v okolních bytech žili civilisté, jak uvedl český ministr zahraničí Jan Lipavský na sociální síti X.

včera

Rusko zaútočilo na Kyjev. Odveta za útok na chemický závod, vzkazuje Moskva

Ruské ministerstvo obrany tvrdí, že dnešní útok na Kyjev byl „odvetnou“ reakcí na útok na chemický závod Kamensky v ruské Rostovské oblasti, který údajně provedla Ukrajina 18. prosince 2024. Uvedl to server Ukrajinska pravda.

Zdroj: Libor Novák

Další zprávy