Τεχνικές εκπαίδευσης συνελικτικού νευρωνικού δικτύου σε ανταγωνιστικές επιθέσεις για άμυνα
Loading...
Date
2023-10-26
Authors
Αγγελάκη, Φωτεινή
Journal Title
Journal ISSN
Volume Title
Publisher
Abstract
Η παρούσα διπλωματική εργασία έχει ως στόχο να εξετάσει τις επιθέσεις ανταγωνιστικής
μηχανικής μάθησης, ευρέως γνωστές και ως "adversarial attacks", στο πεδίο της
υπολογιστικής όρασης, εστιάζοντας στη χρήση συνελικτικών νευρωνικών δικτύων
(Convolutional Neural Network - CNN) εντός ενός περιβάλλοντος μαύρου κουτιού (black
box setting). Οι επιθέσεις ανταγωνιστικής μηχανικής μάθησης αποκαλύπτουν τις αδυναμίες
των μοντέλων μηχανικής μάθησης, δημιουργώντας ειδικά διαμορφωμένα δεδομένα που
οδηγούν τα μοντέλα σε εσφαλμένες αποφάσεις.
Στο πλαίσιο αυτό, θα παρουσιαστούν αρκετοί αλγόριθμοι, που χρησιμοποιούνται για τη
δημιουργία ανταγωνιστικών επιθέσεων (adversarial attacks). Η εργασία εστιάζει ωστόσο, σε
ένα αλγόριθμο βασισμένο στην CMA-ES (Εξελικτική στρατηγική προσαρμογής του πίνακα
συνδιακύμανσης - Covariance Matrix Adaptation Evolution Strategy), η οποία επιτρέπει τη
δημιουργία ανταγωνιστικών επιθέσεων σε εικόνες, διατηρώντας το περιβάλλον μαύρου
κουτιού. Ο αλγόριθμος CMA-ES αναζητεί τις περιοχές της εικόνας που είναι ευάλωτες σε
μικρές αλλαγές, οδηγώντας το μοντέλο σε ανεπιθύμητα αποτελέσματα. Έτσι, προκύπτει
δυνατότητα δημιουργίας εικόνων που εξαπατούν το μοντέλο, χωρίς να απαιτείται γνώση στην
εσωτερική του δομή.
Μέσω της εργασίας αυτής, αναδεικνύεται η σημασία της κατανόησης των
ανταγωνιστικών επιθέσεων (adversarial attacks) και των μεθόδων προστασίας από αυτές,
προσφέροντας εμβριθείς πληροφορίες για την ενίσχυση της ασφάλειας και της αξιοπιστίας
των μοντέλων μηχανικής μάθησης σε αντίστοιχα περιβάλλοντα.
Description
Keywords
Ανταγωνιστικές επιθέσεις, Νευρωνικά δίκτυα, Μηχανική μάθηση