Технология

Fooling Patch Experiment

Один из серии экспериментов с патчами, генерированными искусственным интеллектом.

Хотите узнать о технологиях?

Наша компания занимается анализом и распознаванием изображений в статических композициях и видеопотоке более 7 лет. Наши разработки используются для поиска определенных людей в видео, для детектирования использования отдельных товаров в рекламе и т.п.

В последние годы все больший интерес вызывают состязательные атаки на модели машинного обучения. Внося лишь незначительные изменения во вход сверточной нейронной сети, выход сети может быть изменен, чтобы вывести совершенно другой результат. Первые атаки сделали это, слегка изменив значения пикселей входного изображения, чтобы обмануть классификатор для вывода неправильного класса.

Другие подходы пытались узнать «патчи», которые можно применить к объекту, чтобы обмануть детекторы и классификаторы. Некоторые из этих подходов также показали, что эти атаки возможны и в реальном мире, т. е. путем модификации объекта и съемки его видеокамерой. Однако все эти подходы ориентированы на классы, которые практически не содержат внутриклассовой разновидности (например, стоп-сигналы). Известная структура объекта затем используется для создания состязательного патча поверх него.

Мы представляем подход к созданию состязательных патчей для целей с большим количеством внутриклассового разнообразия, а именно людей. Цель состоит в том, чтобы создать патч, который способен успешно скрыть человека от соответствующего детектора.

Мы видим, что наша система способна значительно снизить точность детектирования человека. Наш подход также хорошо работает в реальных сценариях, где патч снимается камерой. Насколько нам известно, мы первые, кто пытается атаковать цели с таким высоким уровнем внутриклассового разнообразия, как люди. Система генерации изображений, используемая нами для создания патчей на футболки, построена на наших собственных разработках и вдохновлена идеями группы Корнуэльского университета (https://arxiv.org/abs/1904.08653).

Из тестов в реальных условиях, с напечатанными патчами, мы увидели, что они хорошо работают, скрывая людей от следящих камер. Мы предполагаем, что системы безопасности, использующие подобные детекторы, также будут бессильны в обнаружении людей, одетых в одежду с нанесенными патчами.

Мы с благодарностью примем любые пожелания и замечания, а также просим присылать сообщения об использовании нашей одежды в реальных условиях. Если у вас есть идеи о развитии нашего проекта, пожалуйста, пишите нам: tech[at]hidexa.com.

×

Hello!

Click below to chat on WhatsApp or email to sales@hidexa.com

× How can I help you?