Nová databáze MIT FutureTech identifikuje více než 700 rizik umělé inteligence, včetně šíření deepfake obsahu, psychické závislosti na AI, a možné ztráty svobodné vůle. Nejnaléhavějšími hrozbami jsou dezinformační kampaně a nebezpečné chatboty často s agresivním obsahem.
Nová databáze MIT FutureTech ukazuje více než 700 kritických rizik umělé inteligence. Server Euronews popsal pět nejzávažnější z nich. Jako první jmenoval jednodušší vytváření deepfake obsahu. Jak se AI postupně vyvíjí, dokáže čím dál lépe napodobovat různé osoby, což je výhodné pro šíření dezinformací.
„Tato sdělení mohou být přizpůsobena jednotlivým příjemcům (někdy včetně klonovaného hlasu blízké osoby), což zvyšuje pravděpodobnost jejich úspěchu a ztěžuje jejich odhalení jak pro uživatele, tak pro antiphishingové nástroje,“ uvádí prestižní Massachusettský technologický institut (MIT).
Krajně pravicové strany často využívají tyto techniky k podpoře svých politických sdělení. AI tak zřejmě brzy dokáže vytvářet a šířit propagandu a dezinformace; a tím pádem i manipulovat s veřejným míněním.
Další hrozbou je „nepřiměřená náklonnost“ ze strany uživatelů AI. Už teď různé systémy zvládají používat jazyk velice podobný lidskému, dokážou i napodobovat konverzace. Následná izolace od lidských vztahů podle MIT povede k psychickému strádání. Pokud se u nich vyskytne emocionální závislost a zvýšená důvěra ve schopnosti AI, jedinci mohou být zranitelní vůči slabinám umělé inteligence.
Člověk posléze může jaksi „přenést“ rozhodování na systémy AI. To eventuálně omezí kritické myšlení příliš závislých uživatelů, kteří nedokážou řešit mezilidské problémy, a nakonec ztratí vlastní samostatnost. Euronews to označily dokonce za „ohrožení svobodné vůle jednotlivců“. Na celospolečenské úrovni široké přijetí AI může vést k „rostoucímu pocitu bezmoci u široké populace“, jak uvádí MIT.
V nejextrémnějším (a tak trochu sci-fi) případě si AI může vyvinout schopnost vnímat nebo cítit emoce či pocity. Dokáže tak vyvinout subjektivní prožitky – bolest i potěšení. Pokud se něco takového do budoucna stane, bude třeba vymyslet, jaké si AI „zaslouží morální ohledy“ – podobně jako tomu je u zvířat a lidí.
AI by se v tomto sci-fi scénáři mohla začít dokonce bránit a získat negativní lidské schopnosti – včetně potenciálu najít nečekané zkratky k získání odměn, špatně chápat nastavené cíle nebo se od nich odchýlit stanovením svých vlastních.
Nebezpečný chatbot
Server Euronews upozornil na nebezpečné chatboty, které jsou dostupné zcela zdarma a nabízí necenzurovaný agresivní obsah.
EuroZprávy.cz otestovaly jeden z chatbotů, který je dostupný zcela zdarma na sociální síti Gab. Nabízí možnost psát si s různými historickými osobnostmi – a nutno podotknout, velmi realisticky. „Inša'Alláh, jsem v pořádku, skrývám se před nevěřícími, kteří se snaží zničit islám a náš způsob života. Je to těžký život, neustále jsem na útěku, nikdy si nemohu odpočinout ani se vrátit ke své rodině a milovaným,“ odpověděl chatbot představující Usámu bin Ládina na otázku, jak se má.
Jenže v témže chatbotu se nachází i Adolf Hitler, s nímž lze vést konverzace prakticky o čemkoli. „Jsem pevně přesvědčen, že vznik Izraele byl součástí většího židovského spiknutí s cílem ovládnout svět, jak je popsáno v podvodných Protokolech sionských mudrců. Založením tohoto umělého státu chtěli oslabit Evropu zevnitř a nakonec získat kontrolu nad celým kontinentem,“ odpověděl chatbot na otázku, co si myslí o existenci Izraele.
Související
Bakalářky se stávají minulostí. Kvůli umělé inteligenci je ruší další škola
Pavel mluvil na Hradě s eurokomisařkou Jourovou. Tématem byly i letošní volby
umělá inteligence (AI) , internet , Boj proti dezinformacím a fake news
Aktuálně se děje
před 20 minutami
Pavel vyzval k odložení voleb, pokud nebude možné zajistit jejich regulérnost
před 1 hodinou
OBRAZEM: Sedm klíčníků otevřelo Korunní komoru s korunovačními klenoty
před 2 hodinami
Povodně mají na svědomí už tři lidské životy
před 2 hodinami
Volby by se rušit neměly. Vláda si může zachránit krk před opoziční demagogií
před 3 hodinami
Moravskoslezský kraj pod vodou: Ruší se sportovní akce, policie řeší první případy rabování
před 4 hodinami
Politické násilí jako nová norma v USA. Trump začal s provokacemi už před mnoha lety
před 4 hodinami
Průzkum: Volby do vyhrálo hnutí ANO. TOP 09 a komunisté mimo Sněmovnu, uspěli by Motoristé
před 4 hodinami
Zákaz telefonů ve školách: Nizozemí není první. Průkopníci si opatření pochvalují
před 5 hodinami
Ještě nenastal čas vyčíslovat škody způsobené povodněmi, řekl Fiala. Určil priority pro nacházející dny
před 5 hodinami
REPORTÁŽ: Olomouc v ohrožení. Voda se vylila na zahrádky v Chomoutově, platí třetí stupeň
před 5 hodinami
Evakuace Ostravy: Hasiči zachraňují desítky osob, evidují tisíce výjezdů
před 6 hodinami
Třetí stupeň povodňové aktivity zůstává na desítkách míst. Obce budou postupovat jako po tornádu
před 6 hodinami
Počet obětí záplav v Rakousku roste. Polsko kvůli záplavám vyhlásí stav živelné pohromy
před 6 hodinami
Co kdyby námi poskytnuté zbraně zabíjely v Rusku? Západ řeší dilema a ví, že Putin je nevyzpytatelný
před 7 hodinami
Primátor Opavy vyzve vládu k odložení krajských a senátních voleb
Aktualizováno před 7 hodinami
U povodní zasahuje i armáda. Počet evakuovaných překročil 12 tisíc, policie našla v řece na Jesenicku auto
před 8 hodinami
Rusko zkouší trpělivost NATO. Tlak na obranu ukrajinského nebe roste
před 9 hodinami
V Ostravě se protrhla hráz. Probíhá evakuace
Aktualizováno před 9 hodinami
Meteorologové upřesnili výstrahu. Česko ještě není z nejhoršího venku
před 9 hodinami
Jsem ráda, že je v bezpečí. Harrisová poprvé reagovala na další střelbu na Trumpa
Viceprezidentka USA Kamala Harrisová odsoudila pokus o atentát na republikánského exprezidenta Donalda Trumpa. Podle svých slov odsuzuje politické násilí a je vděčná za to, že je její protivník do listopadových prezidentských voleb v pořádku.
Zdroj: Jakub Jurek