Detecting of malicious logic in the operation of convolutional artificial neural networks based on the analysis of input data features

Jazyk: ruština
Rok vydání: 2023
Předmět:
DOI: 10.18720/spbpu/3/2023/vr/vr23-828
Popis: Тема выпускной квалификационной работы: «Обнаружение вредоносной логики в Ñ€Ð°Ð±Ð¾Ñ‚ÐµÂ ÑÐ²ÐµÑ€Ñ‚Ð¾Ñ‡Ð½Ñ‹Ñ Â Ð¸ÑÐºÑƒÑÑÑ‚Ð²ÐµÐ½Ð½Ñ‹Ñ Ð½ÐµÐ¹Ñ€Ð¾Ð½Ð½Ñ‹Ñ ÑÐµÑ‚ÐµÐ¹ на основе анализа признаков Ð²Ñ Ð¾Ð´Ð½Ñ‹Ñ Ð´Ð°Ð½Ð½Ñ‹Ñ Â». Предметом исследования является защита классификаторов на основе ИНС от внедрения Ð¿Ð¾Ñ‚Ð°Ð¹Ð½Ñ‹Ñ Ñ Ð¾Ð´Ð¾Ð², Ð°ÐºÑ‚Ð¸Ð²Ð¸Ñ€ÑƒÑŽÑ‰Ð¸Ñ ÑÐºÑ€Ñ‹Ñ‚ÑƒÑŽ логику.Целью работы является Ð·Ð°Ñ‰Ð¸Ñ‚Ð°Â ÑÐ²ÐµÑ€Ñ‚Ð¾Ñ‡Ð½Ñ‹Ñ Â Ð¸ÑÐºÑƒÑÑÑ‚Ð²ÐµÐ½Ð½Ñ‹Ñ Ð½ÐµÐ¹Ñ€Ð¾Ð½Ð½Ñ‹Ñ ÑÐµÑ‚ÐµÐ¹ от атак внедрения скрытой логики. Задачи, решаемые в Ñ Ð¾Ð´Ðµ исследования:Исследование Ñ‚ÐµÐ¾Ñ€ÐµÑ‚Ð¸Ñ‡ÐµÑÐºÐ¸Ñ ÑÐ¿Ð¾ÑÐ¾Ð±Ð¾Ð² реализации атак внедрения скрытой логики.Анализ ÑÐ¾Ð²Ñ€ÐµÐ¼ÐµÐ½Ð½Ñ‹Ñ Ð¸ÑÑÐ»ÐµÐ´Ð¾Ð²Ð°Ð½Ð¸Ð¹ в области поиска скрытой логики Ð²Â ÑÐ²ÐµÑ€Ñ‚Ð¾Ñ‡Ð½Ñ‹Ñ Ð¸ÑÐºÑƒÑÑÑ‚Ð²ÐµÐ½Ð½Ñ‹Ñ Ð½ÐµÐ¹Ñ€Ð¾Ð½Ð½Ñ‹Ñ ÑÐµÑ‚ÑÑ .Исследование способов сжатия изображений для удаления признаков.Разработка метода поиска скрытой логики Ð²Â ÑÐ²ÐµÑ€Ñ‚Ð¾Ñ‡Ð½Ñ‹Ñ Â Ð¸ÑÐºÑƒÑÑÑ‚Ð²ÐµÐ½Ð½Ñ‹Ñ Ð½ÐµÐ¹Ñ€Ð¾Ð½Ð½Ñ‹Ñ ÑÐµÑ‚ÑÑ Ð½Ð° основе сжатия вейвлет-преобразованием. Оценка качества работы созданного метода поиска скрытой логики. В результате работы было разработано средство поиска скрытой логики в Ñ€Ð°Ð±Ð¾Ñ‚ÐµÂ ÑÐ²ÐµÑ€Ñ‚Ð¾Ñ‡Ð½Ñ‹Ñ Â Ð¸ÑÐºÑƒÑÑÑ‚Ð²ÐµÐ½Ð½Ñ‹Ñ Â Ð½ÐµÐ¹Ñ€Ð¾Ð½Ð½Ñ‹Ñ ÑÐµÑ‚ÐµÐ¹, а также продемонстрирована эффективность его работы. Был сделан вывод о том, что для поиска с вредоносной логики в Ñ€Ð°Ð±Ð¾Ñ‚ÐµÂ ÑÐ²ÐµÑ€Ñ‚Ð¾Ñ‡Ð½Ñ‹Ñ Ð¸ÑÐºÑƒÑÑÑ‚Ð²ÐµÐ½Ð½Ñ‹Ñ Ð½ÐµÐ¹Ñ€Ð¾Ð½Ð½Ñ‹Ñ ÑÐµÑ‚ÐµÐ¹ ко Ð²Ñ Ð¾Ð´Ð½Ñ‹Ð¼ данным могут применяться алгоритмы сжатия с потерями. Полученные результаты могут быть использованы в качестве основы для проектирования систем динамического поиска скрытой логики в Ñ€Ð°Ð±Ð¾Ñ‚ÐµÂ ÑÐ²ÐµÑ€Ñ‚Ð¾Ñ‡Ð½Ñ‹Ñ Â Ð¸ÑÐºÑƒÑÑÑ‚Ð²ÐµÐ½Ð½Ñ‹Ñ Â Ð½ÐµÐ¹Ñ€Ð¾Ð½Ð½Ñ‹Ñ ÑÐµÑ‚ÐµÐ¹.
The topic of the graduate qualification work is «Detecting of malicious logic in the operation of convolutional artificial neural networks based on the analysis of input data features». The subject of the study is the protection of classifiers based on artificial neural networks from the introduction of secret passages that activate malicious logic.The purpose of the study is protect convolutional artificial neural networks from malicious logic attacks implementation. The research set the following goals:Research of theoretical ways to implement malicious logic implementation attacks.Analysis of modern research in the field of search for malicious logic in convolutional neural networks.Investigation of ways to compress images to remove features.Development of a method for searching for malicious logic based on compression using a wavelet transform.Evaluation of the quality of the created method of searching for malicious logic.As a result of the work, a means of combating malicious logic in the operation of convolutional neural networks was developed, and the effectiveness of its work was demonstrated. It was concluded that lossy compression algorithms can be applied to input data to combat malicious logic in the operation of convolutional artificial neural networks. The results obtained can be used as a basis for designing systems for dynamic search of malicious logic in the operation of convolutional neural networks.
Databáze: OpenAIRE