Metode za obranu od napada na neuronske mreže pomoću augmentacije podataka

diplomski rad

• Naslov (engleski): Methods for Defense Against Backdoor Attacks Upon Neural Networks Using Data Augmentation
• Autor: Antun Herkov
• Mentor: Sven Lončarić (mentor)
• Član povjerenstva: Sven Lončarić (predsjednik povjerenstva)
• Član povjerenstva: Marko Subašić (član povjerenstva)
• Član povjerenstva: Tomislav Petković (član povjerenstva)
• Ustanova koja je dodijelila akademski / stručni stupanj: Sveučilište u Zagrebu; Fakultet elektrotehnike i računarstva; Zagreb
• Datum i država obrane: 2023-07-03, Hrvatska

Sažetak

Dan je pregled sigurnosnih opasnosti koji prijete modelima dubokog učenja uz fokus na
utjecaj primjene augmentacije podataka na sigurnost, metrike i performanse modela
dubokog učenja. Formalno su opisani backdoor napadi na modele te je dan pregled
obrambenih metoda. Za provedbu eksperimenata, razvijena je programska implementacija
procesa učenja inficiranih modela te provođenja obrane u obliku augmentacije podataka
točno definiranim strategijama transformacija slika u Keras i PyTorch frameworcima te je
pokazan utjecaj augmentacije podataka na osiguravanje modela od umetnutoga backdoora.

Sažetak (engleski)

An overview of security threats to deep learning models is given, with a focus on the impact
of applying data augmentation on the security, metrics, and performance of deep learning
models. Backdoor attacks on models are formally described and an overview of defense
methods is given. To carry out the experiments, a software implementation of the process of
training infected models and a defense method in the form of data augmentation with
precisely defined image transformation policies was developed in Keras and PyTorch
frameworks, and the impact of data augmentation on the model security from an inserted
backdoor was demonstrated.

• Ključne riječi: duboko učenje; sigurnost; backdoor napadi; augmentacija podataka
• Ključne riječi (engleski): deep learning; security; backdoor attacks; data augmentation
• Jezik: hrvatski
• URN:NBN: urn:nbn:hr:168:970317
• Studijski program: Naziv: Računarstvo; Vrsta studija: sveučilišni; Stupanj studija: diplomski; Akademski / stručni naziv: magistar/magistra inženjer/inženjerka računarstva (mag.ing.comp.)
• Vrsta resursa: Tekst
• Način izrade datoteke: Izvorno digitalna
• Prava pristupa: Zatvoreni pristup
• Repozitorij: Repozitorij FER-a
• Datum i vrijeme pohrane: 2023-10-11 09:01:35