Ανάπτυξη άμυνας σε επιθέσεις data poisoning σε federated learning με graph clustering
Loading...
Date
2022-09-16
Authors
Αλ Μπαμπούλ, Γεώργιος
Journal Title
Journal ISSN
Volume Title
Publisher
Abstract
Με την ραγδαία ανάπτυξη της τεχνολογίας παρατηρείται ότι το υλικό καθώς και το λογισμικό που χρησιμοποιείται αυξάνεται σε υπολογιστική ισχύ και μειώνεται σε όγκο. Λόγω αυτού,
πολλές προσωπικές συσκευές πλέον είναι ικανές να χειριστούν και επεξεργαστούν σημαντικό
όγκο δεδομένων όντας μικρές σε μέγεθος, πράγμα που τις καθιστά ιδανικές για την εκπαίδευση
μοντέλων μηχανικής μάθησης. Μία μέθοδος που εκμεταλλεύεται αυτό το γεγονός, είναι η "Ομοσπονδιακή Μάθηση" (Federated Learning). Το κύριο πλεονέκτημα της χρήσης αυτής της μεθόδου
είναι η διασφάλιση της ιδιωτικότητας των δεδομένων του κάθε συμμετέχοντα, ενώ παράλληλα
τα μοντέλα εκπαιδεύονται με δεδομένα που παρουσιάζουν σημαντικές διαφορές στο περιεχόμενο. Ως αποτέλεσμα, τα μοντέλα έχουν εκπαιδευτεί σε ένα ευρύ φάσμα δεδομένων χωρίς να
υπάρχει ο κίνδυνος διαρροής τους. Δυστυχώς όμως, λόγω της φύσης της(αποκεντρωμένη), αυτή
η μέθοδος είναι ευάλωτη σε πολυάριθμες επιθέσεις. Στην παρούσα διπλωματική, θα παρουσιαστεί μία μέθοδος επίθεσης ονόματι label-flipping ή αλλιώς backdoor attack που επιχειρεί να ε-
πηρεάσει τις αποφάσεις του κεντρικού μοντέλου ως προς μία ορισμένη κλάση χωρίς να μειώνει
σημαντικά την συνολική ακρίβειά του. Τέλος θα παρουσιαστούν διάφοροι τρόποι αντιμετώπισης που έχουν αναπτυχθεί από ερευνητές του χώρου και θα σχολιαστούν τα αποτελέσματα
των πειραμάτων.
Description
Keywords
Ομοσπονδιακή μάθηση, Ιδιωτικότητα