Laienemine autonoomsed droonid tehisintellektiga See muudab täielikult julgeoleku, jälitustegevuse ja isegi tänapäevase sõjapidamise maastikku. See, mis veel mõned aastad tagasi tundus ulmena, on nüüdseks rutiin: mehitamata õhusõidukid, mis on võimelised inimesi jälgima, piire patrullima või mis tahes liikumist detailselt salvestama praktiliselt ilma inimese sekkumiseta.
Selles tipptehnoloogiast tulvil kontekstis on peaaegu sürreaalne avastada, et nii tavaline ese nagu vihmavari See võib mõnele neist täiustatud süsteemidest väljakutse esitada. California Ülikooli Irvine'i (UC Irvine) teadlaste rühm on näidanud, et õige visuaalse mustri korral suudab lihtne vihmavari "petta", ligi meelitada ja isegi neutraliseerida teatud kommertsdroonide mudeleid, mis kasutavad arvutinägemisel põhinevat autonoomset jälgimist.
Autonoomsete droonide esiletõus ja miks need nii palju muret tekitavad
Viimastel aastatel on kasutatud mehitamata õhusõidukid kogu maailmas. Me ei räägi enam ainult väikestest meelelahutusdroonidest suurejooneliste videote salvestamiseks, vaid palju tõsisematest platvormidest, mida kasutatakse linnade jälgimiseks, kriitilise infrastruktuuri jälgimiseks, piirikontrolliks või politsei- ja sõjaliste operatsioonide toetamiseks.
Selliste stsenaariumide korral nagu sõda Venemaa ja Ukraina vahel On selgeks saanud, kui hädavajalikuks droonid on muutunud. On olemas kamikaze-mudeleid, sihtmärkide jälgimiseks spetsialiseerunud seadmeid, stabiilse side tagamiseks fiiberoptika abil ühendatud süsteeme ja üha enam seadmeid, mis sisaldavad tehisintellekti, et lennu ajal iseseisvalt otsuseid langetada.
See autonoomia põhineb kasutamisel täiustatud optilised andurid ja arvutinägemise algoritmid Need funktsioonid võimaldavad droonil tuvastada inimesi või objekte, neid jälgida ja reageerida nende liikumisele ilma, et piloot peaks pidevalt trajektoori korrigeerima. Tarbekaupades turustatakse seda kui "aktiivse jälgimise" või "dünaamilise jälgimise" funktsioone.
Probleem on selles, et kuna nende süsteemide kasutamine laieneb seire-, patrull- ja turvaoperatsioonidSamuti on kasvav väärkasutuse oht: ahistamine, spionaaž, privaatsuse rikkumine või varjatud jälgimine kohtades, kus inimesed isegi ei tea, et neid jälgitakse.
Teadlased ja küberturvalisuse eksperdid on juba ammu hoiatanud, et nende süsteemide kaitsmine ei saa piirduda ainult elektrooniliste komponentidega (raadiolingid, krüpteeritud side, tulemüürid). visuaalne taju ja tehisintellekti algoritmid Need, kes langetavad otsuseid selle põhjal, mida nad "näevad", võivad samuti nõrgaks küljeks saada ja just siin tulebki mängu kummaline vihmavarjueksperiment.
FlyTrapi projekt: kui vihmavarjust saab kaitserelv
Turvalisuse ja arvutinägemise spetsialistide meeskond California Ülikool, Irvine Nad otsustasid mitte järgida tavapärast teed, kus disainiti üha keerukamaid ja ründavamaid droone. Selle asemel esitasid nad teistsuguse küsimuse: kas on võimalik Enda kaitsmine autonoomsete droonide eest kasutades lihtsaid esemeid, ilma et peaks pöörduma sagedussegajate, häkkimise või kalli sõjavarustuse poole?
Sellest ideest sündiski FlyTrap. füüsilise rünnaku meetod autonoomsete jälgimisalgoritmide vastu See tugineb graafilisele mustrile, mis on spetsiaalselt loodud drooni nägemissüsteemi segadusse ajamiseks. Seadme elektroonilise keelamise asemel on eesmärk manipuleerida sellega, mida droon "arvab" kaamera ees toimuvat.
Teadlased keskendusid oma analüüsis droonidele, mis kasutavad sihtmärgi jälgimine masinnägemise põhjalNeed on seadmed, mis tuvastavad ja jälgivad inimest või objekti oma kaamerate jäädvustatud visuaalse teabe põhjal. Analüüsitud mudelite hulgas on mõned turul väga populaarsed, näiteks DJI Mini 4 Pro, DJI Neo ja HoverAir X1.
Pärast seda, kui uuriti, kuidas need süsteemid sihtmärgi liikumist tõlgendavad, avastas meeskond olulise nõrkuse: teatud tingimustel saab algoritmi manipuleerida, kui sellele esitatakse hoolikalt kujundatud visuaalne muster mis muudab nende taju liikumissuunast ja kaugusest.
See muster, hüüdnimega FlyTrap, trükiti tavalise vihmavarju pinnale. Tulemuseks oli üllatavalt odav ja kättesaadav kaitserelv autonoomsete droonide vastu, mida paberil peaks olema väga raske üle kavaldada ilma keerukate tehniliste vahenditeta.
Kuidas täpselt vihmavarju visuaalne trikk töötab?
FlyTrapi tuum seisneb selles, kuidas algoritmid toimivad autonoomne jälgimine, mis põhineb närvivõrkudel Nad tõlgendavad drooni kaamerate jäädvustusi. Need süsteemid analüüsivad pilti kaaderhaaval ja arvutavad, kuidas sihtmärk ekraanil liigub, et otsustada, kuhu ja millise kiirusega peaks droon liikuma.
Vihmavarjule trükitud graafiline disain paneb drooni "lugema" olukorda, mis ei vasta tegelikkusele: muster on kujundatud nii, et nägemissüsteem järeldab, et sihtmärk on droonist eemaldumine, kui tegelikkuses on vihmavarju hoidev inimene praktiliselt ikka samas kohas.
Selle väärtõlgenduse ees teeb jälgimistarkvara seda, milleks see on programmeeritud: see püüab vähendada vahemaad kuni see jõuab sihtmärgini, hoides seda optimaalse jälgimisulatuse piires. Teisisõnu, droon läheneb järk-järgult, korrigeerides pidevalt oma trajektoori, et seda tajutavat kaugust "kompenseerida".
See käitumine tekitab ehtsa kauge atraktsiooni rünnakSelle asemel, et drooni eksitada ja rada kaotada, meelitab vihmavari seda tegelikult üha lähemale ja lähemale. Seade võib vihmavarju hoidvale inimesele nii lähedale jõuda, et sellest saab lihtne sihtmärk võrguga püüdmiseks või isegi kontrollitud kokkupõrkeks.
Selle lähenemisviisi suur eelis on see, et see ei nõua elektromagnetilised häired või juurdepääs drooni tarkvaralePole vaja seda häkkida, juhtsignaali pealt kuulata ega sõjavarustust kasutada. Piisab vaid õige disainiga vihmavarjust, et ära kasutada arvutinägemise algoritmide väga spetsiifilist nõrkust.
Katsed kommertsdroonidega ja uuringutulemused
Selleks, et kinnitada, et idee oli midagi enamat kui pelgalt laboriuutis, viis UC Irvine'i meeskond läbi süstemaatilised katsed kommertsdroonidega mis sisaldavad tänapäeval laialdaselt kasutatavaid autonoomseid jälgimisfunktsioone.
Teadlased valisid tarbijaturult kolm representatiivset mudelit: DJI Mini 4 Pro, DJI Neo ja HoverAir X1Kõigil neil on "aktiivse jälgimise" või "dünaamilise jälgimise" režiimid, mis on loodud selleks, et seade saaks inimest jälgida ilma, et ta peaks pidevalt kaugjuhtimispulti kasutama.
Testides seisis inimene avatud alal, FlyTrapi vihmavari avatud, samal ajal kui droon aktiveeris selle objekti automaatse jälgimisrežiimi. Seejärel lasti autonoomsel süsteemil oma tööd teha ilma käsitsi korrigeerimata, jälgides, kuidas see reageerib. vihmavarju graafiline muster.
Tulemused olid veenvad: kõigis kolmes analüüsitud droonimudelis oli FlyTrapi meetod meelitas lennuki edukalt ligi isegi väga lühikestele vahemaadele, piisavalt, et see füüsiliselt võrguga kinni püüda või soovi korral teise konstruktsiooni või seadmega kokku põrgata.
Teadlased kordasid katseid erinevates valgustus- ja ilmastikutingimustes, saavutades väga kõrge edukuse määra. Turvafoorumitel, näiteks NDSS-i konverentsil, esitatud andmete kohaselt säilitas süsteem oma tõhususe isegi siis, kui ümbritseva valguse ja ümbruse kõikumised, mis tugevdab selle praktilist elujõulisust.
Vastutustundliku avalikustamisprotsessi osana edastas meeskond haavatavusest kaasatud droonide tootjad, sealhulgas DJI ja HoverAir, enne kõigi tehniliste üksikasjade avalikustamist. Eesmärk oli anda ettevõtetele aega uurida võimalikke leevendusi või püsivara värskendusi, mis tugevdaksid nende algoritmide vastupidavust seda tüüpi füüsiliste rünnakute vastu.
Riskid ja kasutusjuhud: avalikust julgeolekust ahistamiseni
Lisaks anekdoodile drooni "jahtimisest" vihmavarjuga toob FlyTrapi uuring lauale ka ... tõsised turvamõjud ja autonoomsete süsteemide massiline kasutuselevõtt. Uuringu kaasautor ja UC Irvine'i arvutiteaduse professor professor Alfred Chen rõhutab, et automaatne jälgimine on kahe teraga mõõk.
Ühelt poolt on need funktsioonid väga kasulikud avaliku julgeoleku operatsioonid, piirivalve või taristu jälgimineNeed võimaldavad droonil jälgida suuri alasid või jälgida kahtlusalust ilma pideva piloteerimiseta, säästes ressursse ja parandades ametivõimude reageerimisvõimet.
Teisest küljest saab sama tehnoloogiat kasutada palju vähem üllastel eesmärkidel: Isiku ahistamine, spionaaž, privaatsuse rikkumine avalikes või privaatsetes ruumides, inimeste loata jälgimine jne. Kui igaüks saab osta autonoomse jälgimisfunktsiooniga drooni ja kasutada seda küsitavatel eesmärkidel, muutub ohutuse ja riski vaheline tasakaal keeruliseks.
Uuringu juhtiv autor ja arvutiteadlane Shaoyuan Xie rõhutab, kui lihtne on lihtne vihmavari... teatud autonoomsete droonide käitumise juhtimiseks See sunnib meid ümber mõtlema nende seadmete kasutamise tundlikes keskkondades. Kui neid on nii lihtne füüsiliselt manipuleerida, siis ehk tuleks nende kasutuselevõttu piirata või reguleerida olukordades, kus turvaintsidendi tagajärjeks võivad olla tõsised tagajärjed.
Lisaks ei saa rünnakut kasutada ainult selleks, et neutraliseerida vaenulikke või sissetungivaid drooneaga ka seadusliku jälitustegevuse vältimiseks. Organiseeritud rühmitus võib kasutada FlyTrapi mustri variatsioone, et varjata end politsei või sõjaväe droonide eest, luues varjualasid või pannes õhusõidukid liiga lähedale lähenema ja haavatavaks muutuma.
Füüsiline rünnak, mis avab uuesti arutelu droonide küberturvalisuse üle
Üks FlyTrapi juhtumi kõige silmatorkavamaid aspekte on see, et see hõlmab a füüsiline rünnak tajualgoritmide vastuSee ei ole digitaalne sissetung. Puudub püsivara häkkimine, süsteemile kaugjuurdepääs ega raadioside manipuleerimine. Kõik toimub pärismaailmas, drooni kaamera ees.
Sellised haavatavused, mida tuntakse füüsiliste vastasrünnakutena, näitavad, et AI-süsteemide turvalisus See ulatub kaugemale juhtimistarkvarast ja andmevõrkudest. Kui reaalsust tõlgendavat algoritmi saab petta keskkonna visuaalsete mustrite abil, võib nõrk lüli olla midagi nii tühist nagu vihmavarjumuster.
FlyTrapi puhul on muster spetsiaalselt loodud ärakasutamiseks puudujäägid närvivõrkude liikumise arvutamise viisis ja sihtmärgi kaugus. Inimest ei varjata, vaid manipuleeritakse tajuga nii, et droon usub, et inimene eemaldub.
See lähenemisviis rõhutab, et standardsed turvameetmed – side krüptimine, tugev autentimine, juurdepääsu kontroll – ei ole piisavad andmeside kaitsmiseks. Autonoomsete funktsioonidega mehitamata õhusõiduki süsteemSamuti on oluline tugevdada arvutinägemise algoritmide vastupidavust pahatahtlike visuaalsete mustrite suhtes.
Kuna tehisintellektiga droonide kasutamine muutub üha laialdasemaks linnakeskkond, kriitiline infrastruktuur ja politseioperatsioonidSelliste riskide eiramine võib avada ukse tõsistele intsidentidele. Asi pole ainult selles, et keegi tulistab alla kommertsdrooni, vaid ka sarnaste strateegiate rakendamises strateegiliselt tundlikumates kontekstides.
Vihmavarimeetodi kaitserakendused ja piirangud
Avalikkuse vaatenurgast pakub UC Irvine'i avastus ka võimalikku odav kaitsevahendAutonoomses jälgimisrežiimis drooni poolt jälgitav inimene võiks teoreetiliselt kasutada FlyTrap-mustriga vihmavarju, et seadet ligi meelitada ja kahjutuks teha, alati oma riigi seaduslike piiride raames.
See võimalus avab arutelu selle üle, õigus enesekaitsele õhust luure eestEriti ahistamise, spionaaži või eraellu ebaseadusliku sekkumise juhtudel. Silmitsi jälitustehnoloogiatega, mis tunduvad tavakodanikule kättesaamatud, saab lihtsast esemest, näiteks vihmavarjust, omamoodi kättesaadav vastumeede.
Uurimisrühm ise hoiatab aga, et FlyTrap ei ole maagiline lahendus, mis kehtib iga drooni jaoksSelle efektiivsus sõltub seadmest, mis kasutab teatud arvutinägemisel põhinevaid jälgimisalgoritme, ja autonoomse jälgimisrežiimi aktiveerimisest.
Lisaks ei pruugi mustri kopeerimine ilma sügava arusaamata sellest, kuidas närvivõrgud pilte töötlevad, anda sama tulemust. Lihtsalt pilkupüüdva kujunduse printimisest ja selle toimimise ootamisest ei piisa: meetodi edu seisneb selles, et graafilise mustri matemaatiline ja eksperimentaalne optimeerimine.
Samuti tuleb arvestada õigusraamistikuga: drooni allatulistamine või püüdmine võib olla reguleeritud või isegi keelatud, olenevalt riigist ja seadme toimingu tüübist. Enne mis tahes neutraliseerimistehnika kasutamist, olgu see kui lihtne tahes, on oluline... mõista õhu- ja privaatsuseeskirju praegune.
Selge on see, et seda tüüpi uuringud on kasulikud rõhu tootjad ja regulaatorid Ohutusstandardite parandamise osas, nii droonide kasutamise kuritarvituste vältimiseks kui ka nende füüsilise eseme abil nii lihtsa manipuleerimise takistamiseks.
Kokkuvõttes näitab FlyTrapi juhtum, et autonoomsete droonide tehnoloogiline keerukus ei muuda neid haavamatuks. õige mustriga vihmavariKoos hea arusaamaga sellest, kuidas pardal olev tehisintellekt maailma "näeb", võib see muuta lihtsa jalutuskäigu vihmas drooni jaoks, mis arvas, et tal on kõik kontrolli all, halvimaks stsenaariumiks.
