Berkeley - Mnoho lidí si zvyklo povídat si se svými inteligentními zařízeními. Požádat, aby jim přečetli text, přehráli píseň nebo nastavili upozornění. Vědci z USA a Čína však nyní dokázali, že tyto systémy mohou být snadno zneužity, píše New York Times.
Během posledních dvou let výzkumníci v Číně a ve Spojených státech zjistili, že mohou odesílat skryté příkazy, které jsou nezachytitelné lidským uchem, přes aplikace Apple Siri, Amazon Alexa a Asistent Google.
V univerzitních laboratořích vědci dokázali tajně aktivovat systémy umělé inteligence v chytrých a inteligentních reproduktorech, a pomocí nich vytočit telefonní čísla nebo otevřít webové stránky.
Ve špatných rukách by technologie mohla být použita k odemknutí dveří, vyplacení nebo přeposlání peněz či nákupu zboží online. I přesto, že by byla přehrávána hudba nebo rádio, aplikace by příkazy zachytila.
Skupina studentů z university v Berkeley a Georgetownu již v roce 2016 dokázala skrýt příkazy v bílém šumu, který je přehráván v reproduktorech nebo ve videích na YouTube. Donutili tak zařízení s ovládáním hlasem otevřít webové stránky nebo přejít do režimu letadlo.
Tento měsíc výzkumníci z Berkeley oznámili, že vyvinuli metodu, která umožňuje vložit příkazy přímo do nahrávek hudby nebo mluveného textu. Tedy zatímco posluchač slyší někoho hrát hudbu nebo poslouchá mluvenou knihu, reproduktor Amazon Echo a další chytrá zařízení slyší instrukce například k nákupu nebo online platbě.
„Chceme je udělat ještě tišší,“ tvrdí Nicholas Carlini, student elektronické bezpečnosti na universitě v Berkeley. Podle něho už někdo takovou techniku vyvíjí. „Nepochybně existují lidé a instituce, co si na takovou práci již někoho najali. “
Podle Carlniho je jeho skupina schopna napadnou všechna podobná zařízení na trhu. „chceme dokázat, že to jde. A pak donutit firmy proti takovým útokům vyvinut obranu.“ Podle právníků proti podobným útokům navíc není zatím dostatečná právní obrana.
Zatím se objevovaly spíše vtipné problémy. Vtipálkům se podařilo jednou například upravit systémy, aby zaznamenaly místo povelu „OK, Google“ sousloví „Cocaine Noodles“ a vyhledávaly jej. S novou technologií se ovšem stává celý problém daleko nebezpečnější.
Tyto pokusy ilustrují, jak i přes značný pokrok, může být umělá inteligence snadno ošizena. Počítače mohou být oklamány změnou několika pixelů na digitálním obrázku. Stalo se, že umělá inteligence pak identifikovala letadlo jako kočku. Při testech samořiditelných automobilů pak vědci polepili silnice samolepkami, což umělou inteligenci vozidla popletlo tak, že samovolně zrychlovala nebo brzdila.
19. listopadu 2024 15:33
Nad Googlem se stahují mračna. Ministerstvo chce, aby prodal Chrome, v plánu je mu sebrat i Android
Související
Nad Googlem se stahují mračna. Ministerstvo chce, aby prodal Chrome, v plánu je mu sebrat i Android
Trump je připraven žalovat Google. Škodí mu prý v boji o Bílý dům
Google , internet , Google Car
Aktuálně se děje
před 59 minutami
1000 dní války na Ukrajině: Nastává přelomové období, shodují se experti
před 1 hodinou
Putin: Raketu Orešnik nedokáže zachytit nic na světě. Zahájíme sériovou výrobu
před 2 hodinami
Politico: Svět má nového vítěze v boji s extrémním počasím. Překvapivě jím není západní země
před 3 hodinami
Zatykač na Blízkém východě moc nezmění. Netanjahu ví, že po válce jeho kariéra může skončit, říká Salem
před 4 hodinami
Riziko chyby je vysoké. Rétorika Kremlu připouští jadernou válku, varuje analýza
před 4 hodinami
Nemocnice v Pásmu Gazy jsou před zhroucením. O víkendu hrozí kompletní kolaps zdravotnického systému
před 5 hodinami
Rusko na Ukrajině otestovalo novou raketu Orešnik. Hromadná produkce nehrozí, myslí si expert
před 5 hodinami
Fixace hypotéky: Jaké během ní máte možnosti?
před 5 hodinami
Do napjaté situace si přisadil i Kim Čong-un: Svět míří k ničivé termonukleární válce
před 5 hodinami
Víte, jaký program dokáže ušetřit práci každému podnikateli? Online fakturace
před 6 hodinami
Eskalace války zneklidňuje Evropu. Tusk mluví o nejistotě, Švédsko o zastrašování
před 6 hodinami
Tragický konec pátrání po miminku ve Vídni. Policie podezřívá matku
před 6 hodinami
Situace je nejhorší od začátku války. Evropa znepokojená, Moskva hrozí, Číňané vyzývají ke klidu
před 6 hodinami
USA zavádí nové sankce. Destabilizují Rusko, citelně se ale dotknou Evropy
před 7 hodinami
Británie stupňuje rétoriku: Pokud dnes Putin napadne východní Evropu, jsme připraveni na válku
před 7 hodinami
Orbán chce pozvat Netanjahua do Maďarska. Slibuje, že ho nezatkne
před 8 hodinami
Diplomat prozradil, proč Putin eskaluje konflikt na Ukrajině. Kreml sdělil důvod odpálení rakety
před 8 hodinami
Změny počasí mění svět k nepoznání. O domov už přišly desítky milionů lidí
před 9 hodinami
Co má KLDR ze spojenectví s Ruskem? Novináři odhalili, jak se Putin odměnil za vojáky na Ukrajině
před 9 hodinami
Kvůli ruskému útoku balistickou raketou se Kyjev sejde se zástupci NATO
Zástupci NATO a Ukrajiny se příští úterý setkají v Bruselu na jednání o ruském použití experimentální hypersonické rakety středního doletu. Uvedl to server The Guardian.
Zdroj: Libor Novák