Простой и аккуратный метод обмануть предсказание top-k

Hack me, если сможешь

Контент предоставлен Positive Hack Days. Весь контент подкастов, включая выпуски, графику и описания подкастов, загружается и предоставляется непосредственно Positive Hack Days или его партнером по платформе подкастов. Если вы считаете, что кто-то использует вашу работу, защищенную авторским правом, без вашего разрешения, вы можете выполнить процедуру, описанную здесь https://ru.player.fm/legal.

2+ y ago 30:58

MP3•Главная эпизода

Глубокие нейронные сети произвели революцию и улучшили нашу повседневную жизнь. Кроме того, нейросети удивительным образом очень уязвимы к малым возмущениям входных данных (adversarial attacks). Эти злонамеренные и хорошо продуманные крошечные изменения аккуратно вычислены и способствуют большим ошибкам нейросетей. Они могут целиться, чтобы классификатор выдавал какой-то конкретный класс (targeted attacks) или любой класс, отличающийся от правильного (untargeted attack). Эти атаки могут быть направлены на беспилотные автомобили, системы распознавание речи и идентификации лиц. Докладчик продемонстрирует способ обмана предсказания top-k на датасетах Imagenet и CIFAR-10.

Рассказывает Нурислам Турсынбек.

Смотреть

45 эпизодов

#Технологии #Positive Hack Days