Berkeley - Mnoho lidí si zvyklo povídat si se svými inteligentními zařízeními. Požádat, aby jim přečetli text, přehráli píseň nebo nastavili upozornění. Vědci z USA a Čína však nyní dokázali, že tyto systémy mohou být snadno zneužity, píše New York Times.
Během posledních dvou let výzkumníci v Číně a ve Spojených státech zjistili, že mohou odesílat skryté příkazy, které jsou nezachytitelné lidským uchem, přes aplikace Apple Siri, Amazon Alexa a Asistent Google.
V univerzitních laboratořích vědci dokázali tajně aktivovat systémy umělé inteligence v chytrých a inteligentních reproduktorech, a pomocí nich vytočit telefonní čísla nebo otevřít webové stránky.
Ve špatných rukách by technologie mohla být použita k odemknutí dveří, vyplacení nebo přeposlání peněz či nákupu zboží online. I přesto, že by byla přehrávána hudba nebo rádio, aplikace by příkazy zachytila.
Skupina studentů z university v Berkeley a Georgetownu již v roce 2016 dokázala skrýt příkazy v bílém šumu, který je přehráván v reproduktorech nebo ve videích na YouTube. Donutili tak zařízení s ovládáním hlasem otevřít webové stránky nebo přejít do režimu letadlo.
Tento měsíc výzkumníci z Berkeley oznámili, že vyvinuli metodu, která umožňuje vložit příkazy přímo do nahrávek hudby nebo mluveného textu. Tedy zatímco posluchač slyší někoho hrát hudbu nebo poslouchá mluvenou knihu, reproduktor Amazon Echo a další chytrá zařízení slyší instrukce například k nákupu nebo online platbě.
„Chceme je udělat ještě tišší,“ tvrdí Nicholas Carlini, student elektronické bezpečnosti na universitě v Berkeley. Podle něho už někdo takovou techniku vyvíjí. „Nepochybně existují lidé a instituce, co si na takovou práci již někoho najali. “
Podle Carlniho je jeho skupina schopna napadnou všechna podobná zařízení na trhu. „chceme dokázat, že to jde. A pak donutit firmy proti takovým útokům vyvinut obranu.“ Podle právníků proti podobným útokům navíc není zatím dostatečná právní obrana.
Zatím se objevovaly spíše vtipné problémy. Vtipálkům se podařilo jednou například upravit systémy, aby zaznamenaly místo povelu „OK, Google“ sousloví „Cocaine Noodles“ a vyhledávaly jej. S novou technologií se ovšem stává celý problém daleko nebezpečnější.
Tyto pokusy ilustrují, jak i přes značný pokrok, může být umělá inteligence snadno ošizena. Počítače mohou být oklamány změnou několika pixelů na digitálním obrázku. Stalo se, že umělá inteligence pak identifikovala letadlo jako kočku. Při testech samořiditelných automobilů pak vědci polepili silnice samolepkami, což umělou inteligenci vozidla popletlo tak, že samovolně zrychlovala nebo brzdila.
Související
Google u soudu. V něm jde o miliardy dolarů a to, jak používáme internet
Google měl výpadek. Důvod není jasný, potíže hlásili lidé po celém světě
Google , internet , Google Car
Aktuálně se děje
včera
OSN: Evakuace Rafahu je nehumánní. Utrpení v Pásmu Gazy už je neúnosné
včera
Návrh dohody o příměří má tři fáze, tvrdí Hamás
včera
Co jsou taktické jaderné zbraně a proč Rusko nařídilo cvičení?
včera
Hamás souhlasil s příměřím v Pásmu Gazy. Podle Izraele je to lest
včera
Invaze do Rafahu znepokojuje i USA. Biden chce mluvit s Netanjahuem
včera
Rusko si předvolalo velvyslance Británie. Důvod ale tají
včera
Civilisté mohou Rafah opustit. Egyptský hraniční přechod zůstává otevřený
včera
EU se snaží přivést Izrael k rozumu: Izraelské příkazy k evakuaci Rafahu znamenají to nejhorší
včera
Extrémní změny počasí povedou k masové migraci. Vědci varují před rozšířením jedovatých hadů
včera
Rusko vyhlašuje cvičení. Použije jaderné zbraně
včera
Ve Vatikánu zadrželi faráře z Česka. Měl u sebe pistoli
včera
Ruská armáda údajně postupuje. Tvrdí, že dobyla další ukrajinské vesnice
včera
Itálie: Protiofenzíva Ukrajiny byla chyba. Když Putin nechce jednat, Západ se musí víc snažit
včera
Čecha zadrželi ve Vatikánu kvůli zbraním v tašce. Šlo o faráře
včera
Česká diplomacie objasnila, jak momentálně funguje velvyslanectví v Rusku
včera
Putin nařídil ruské armádě manévry s nácvikem použití taktických jaderných zbraní
včera
Počasí: Meteorologové letos poprvé varují před bouřkami. Hrozí do půlnoci
včera
Proč USA odkládaly pomoc pro Ukrajinu? Jeden z politiků konečně prozradil důvod
včera
Vracet uprchlíky na Ukrajinu? Polsko je pro, Maďarsko to dělat nehodlá
včera
Netanjahu: Pokud se neubráníme sami, nikdo nás neubrání. Zvládneme to i sami
Izraelský premiér Benjamin Netanjahu odmítl tlak mezinárodního společenství, které požaduje pozastavení válečného tažení v Pásmu Gazy. Podle agentur AP a DPA zdůraznil, že Izrael má schopnost bránit se sám, pokud bude potřeba.
Zdroj: Libor Novák