Üks katsete seeria AI-ga genereeritud fooling-plaastritega.

Uudishimulik tech?

Meie ettevõte tegeleb staatiliste piltide ja videovoogude analüüsiga ja tunnustamisega enam kui 7 aastat. Meie rakendusi kasutatakse inimeste tuvastamiseks videol, reklaamides kasutatavate toodete kasutamisel jne.

Viimastel aastatel on üha enam huvitunud võistlusrünnakud masinaõppemudelite vastu. Konvolutsioonilise närvivõrgu sisenditesse tehtavate muudatuste tegemisel saab võrgu väljundit muuta, et saada täiesti erinev tulemus. Esimesed rünnakud viisid selle ülesande läbi, muutes sisendpildi piksliväärtusi, et liigitada klassifikaatori vale klassi.

Teised lähenemisviisid püüdsid välja selgitada „plaastrid”, mida saab objekte kasutada lollide detektorite ja klassifikaatorite jaoks. Mõned neist lähenemisviisidest näitasid ka, et need rünnakud on reaalses maailmas võimalikud, näiteks muutes objekti ja pildistades seda videokaameraga. Kuid kõik need lähenemised on suunatud klassidele, mis praktiliselt ei sisalda klassikalist sorti (näiteks pidurituled). Sellisel juhul kasutatakse objekti teadaolevat struktuuri, et luua selle peale võistleva plaaster.

Me esitame lähenemise võistlevate plaastrite loomiseks eesmärkidel, kus on palju siseklassi mitmekesisust: inimesed. Eesmärk on luua plaaster, mis suudab isiku detektorist edukalt varjata.

Leidsime, et meie süsteem võib oluliselt vähendada inimese avastamise täpsust. Meie lähenemine toimib ka piisavalt reaalsetes stsenaariumides, kus plaastrid filmitakse kaamerate abil. Me teame, et oleme esimesed, kes püüdsid rünnata sihtmärke nii kõrgetasemelise mitmekesisusega nagu inimesed. Pildi genereerimise süsteem, mida me kasutame T-särkide plaastrite loomiseks, põhineb meie enda kujundusel ja on inspireeritud Cornelli Ülikooli grupi ideedest (https://arxiv.org/abs/1904.08653).

Trükitud plaastritega tegelikes katsetes oleme leidnud, et nad töötavad piisavalt hästi, kui nad peidavad inimesi valvekaameratest. Eeldame, et turvasüsteemid, mis kasutavad selliseid detektoreid, on kasutud ka nende plaastrite kandmisel, kes kannavad neid plaastreid.

Me aktsepteerime kõiki ettepanekuid ja kommentaare. Palun jaga meiega oma kogemusi meie riiete kasutamisel reaalses elus.