Студенты Северо-Кавказского федерального университета представили прототип анализатора нейросетей на подверженность состязательным атакам, сообщили в пресс-службе вуза.
По словам ученых, анализатор может распознавать фальшивые файлы в нейронных сетях.
Ректор СКФУ Дмитрий Беспалов отметил, что разработки направлены на повышение безопасности и устойчивость к кибератакам в самых разных сферах деятельности.
Для работы студенты Глеб Дюдюн и Денис Котляров использовали нейросеть и её параметры. На его основе они создавали копии нейросети с такими же параметрами, но обучали ее на правильных ответах.
Глеб Дюдюн рассказал, что применяться разработка может в интеллектуальных системах видеонаблюдения. Их на сегодняшний день использует ГИБДД или диспетчерские службы, которые способны опознать злоумышленника по изображению.
«Если кибермошенники получат доступ к системе и изменят алгоритм своего распознавания, на котором обучается нейросеть, то он всегда будет уходить незамеченным и даже в повседневной жизни не будет обнаружен», – добавил автор разработки.