Rejtett parancsokkal lehet utasítani Sirit rosszindulatú cselekvésekre

Fotó: MacRumors

Egyesült államokbeli és kínai kutatók bebizonyították, hogy a “rejtett” parancsok vagy az emberi fül számára észrevehetetlenek elérhetik az intelligens személyi asszisztenseket, pl. a Sirit és olyan intézkedések végrehajtására kényszeríthetik, amelyet a felhasználók soha nem is kértek.
A kutatók vizsgálatai alapján kiderült, hogy ezek a szubliminális üzenetek rossz kezekben telefonszámok tárcsázására, weboldalak megnyitására és egyéb, potenciálisan rosszindulatú cselekvésekre ösztönözhetnek.

A Kaliforniai Egyetem, a Berkeley és a Georgetown Egyetem hallgatóiból álló kutatási csoport által kiadott kutatási anyagban részletezték a rejtett parancsok elkészítését és működését. A rosszindulatú parancsokat zenei felvételekbe vagy beszédhangba ágyazták. Amikor egy Amazon Echo vagy egy iPhone közelében játszották le a felvételeket, ezek egy személy számára egy egyszerű dalnak vagy valaki beszédének tűntek, míg Siri és Alexa “egy utasítást hallott, hogy adj hozzá valamit a bevásárló listához.” Természetesen ennél veszélyesebb utasítások beleszövésére is képesek lehetnek, mint az ajtók kinyitására, pénz levételére vagy online vásárlásra.

Fotó: Christie Hemm Klok/The New York Times

Nicholas Carlini, a U.C. Berkeley ötödéves, a számítógépes biztonság területére szakosodott Ph.D. diákja úgy véli, egyes támadók hamarosan hasonló technikával léphetnek fel, ezért is vizsgálják ezt a módszert, hogy még biztonságosabbá tegyék ellene eszközeinket. Habár egyelőre nincs konkrét bizonyíték arra, hogy ezek a módszerek elhagyták a laboratóriumot, csak idő kérdése, mielőtt valaki elkezdi kihasználni őket.

Tavaly a Princeton Egyetemen és a kínai Zheijiang Egyetem kutatói végeztek hasonló teszteket bizonyítva azt, hogy az AI-asszisztensek az emberek által nem hallott frekvenciákon keresztül aktiválhatók. A “DolphinAttack” néven ismert technikában a kutatók egy távirányítóval rejtett parancsot küldtek, amellyel az asszisztens tárcsázott egy adott telefonszámot, fotókat készített és szöveges üzeneteket küldött.

A DolphinAttack használatához viszont közel kell állni a fogadó készülékhez, így a módszer valószínűleg nem lesz elterjedt.

 


Vélemény, hozzászólás?

Az email címet nem tesszük közzé. A kötelező mezőket * karakterrel jelöljük.