Ανάπτυξη άμυνας σε επιθέσεις data poisoning σε federated learning με graph clustering
| datacite.contributor.Supervisor | Σπύρος Σιούτας | |
| dc.contributor.author | Αλ Μπαμπούλ, Γεώργιος | |
| dc.contributor.other | Al Bampoul, George | |
| dc.date.accessioned | 2022-09-21T08:35:08Z | |
| dc.date.available | 2022-09-21T08:35:08Z | |
| dc.date.issued | 2022-09-16 | |
| dc.degree | graduateThesis | |
| dc.description.abstract | Με την ραγδαία ανάπτυξη της τεχνολογίας παρατηρείται ότι το υλικό καθώς και το λογισμικό που χρησιμοποιείται αυξάνεται σε υπολογιστική ισχύ και μειώνεται σε όγκο. Λόγω αυτού, πολλές προσωπικές συσκευές πλέον είναι ικανές να χειριστούν και επεξεργαστούν σημαντικό όγκο δεδομένων όντας μικρές σε μέγεθος, πράγμα που τις καθιστά ιδανικές για την εκπαίδευση μοντέλων μηχανικής μάθησης. Μία μέθοδος που εκμεταλλεύεται αυτό το γεγονός, είναι η "Ομοσπονδιακή Μάθηση" (Federated Learning). Το κύριο πλεονέκτημα της χρήσης αυτής της μεθόδου είναι η διασφάλιση της ιδιωτικότητας των δεδομένων του κάθε συμμετέχοντα, ενώ παράλληλα τα μοντέλα εκπαιδεύονται με δεδομένα που παρουσιάζουν σημαντικές διαφορές στο περιεχόμενο. Ως αποτέλεσμα, τα μοντέλα έχουν εκπαιδευτεί σε ένα ευρύ φάσμα δεδομένων χωρίς να υπάρχει ο κίνδυνος διαρροής τους. Δυστυχώς όμως, λόγω της φύσης της(αποκεντρωμένη), αυτή η μέθοδος είναι ευάλωτη σε πολυάριθμες επιθέσεις. Στην παρούσα διπλωματική, θα παρουσιαστεί μία μέθοδος επίθεσης ονόματι label-flipping ή αλλιώς backdoor attack που επιχειρεί να ε- πηρεάσει τις αποφάσεις του κεντρικού μοντέλου ως προς μία ορισμένη κλάση χωρίς να μειώνει σημαντικά την συνολική ακρίβειά του. Τέλος θα παρουσιαστούν διάφοροι τρόποι αντιμετώπισης που έχουν αναπτυχθεί από ερευνητές του χώρου και θα σχολιαστούν τα αποτελέσματα των πειραμάτων. | |
| dc.description.translatedabstract | With the rapid development of technology, it is observed that the hardware, as well as the software used, is increasing in computing power and decreasing in volume. Due to this, many personal devices are now capable of handling and processing a significant amount of data while being small in size, which makes them ideal for training machine learning models. One method that takes advantage of this fact is "Federated Learning". The main advantage of using this method is to ensure the privacy of each participant's data, while training models with data that have significant differences in content. As a result, the models are trained on a wide range of data without the risk of leakage. Unfortunately, however, due to its nature(decentralized), this method is vulnerable to numerous attacks. In this thesis, we will present an attack method called label-flipping or backdoor attack that attempts to influence the decisions of the central model with respect to a certain class without significantly reducing its overall accuracy. Finally, various countermeasures developed by researchers in the field will be presented and the results of experiments will be commented on. | |
| dc.identifier.uri | https://hdl.handle.net/10889/23273 | |
| dc.language.iso | el | |
| dc.rights | Attribution-NonCommercial-NoDerivs 3.0 United States | * |
| dc.rights.uri | http://creativecommons.org/licenses/by-nc-nd/3.0/us/ | * |
| dc.subject | Ομοσπονδιακή μάθηση | |
| dc.subject | Ιδιωτικότητα | |
| dc.subject.alternative | Federated learning | |
| dc.subject.alternative | Privacy | |
| dc.title | Ανάπτυξη άμυνας σε επιθέσεις data poisoning σε federated learning με graph clustering | |
| dc.title.alternative | Development of defense against data poisoning attacks in federated learning with graph clustering |