Μέθοδοι ενσωματωμένης γεωμετρικής βαθιάς μάθησης
Loading...
Date
2024-12-19
Authors
Χριστούλης, Χαράλαμπος
Journal Title
Journal ISSN
Volume Title
Publisher
Abstract
Η ραγδαία εξέλιξη της τεχνητής νοημοσύνης και των νευρωνικών δικτύων έχει επιφέρει σημαντικές προόδους στην επίλυση σύνθετων προβλημάτων, ιδιαίτερα στους τομείς της αναγνώρισης προτύπων και της επεξεργασίας εικόνας. Ένας από τους τομείς που έχουν αναδειχθεί ιδιαίτερα είναι η ενσωμάτωση της θεωρίας ομάδων στα νευρωνικά δίκτυα, η οποία οδήγησε στην ανάπτυξη των ομαδο-συνελικτικών νευρωνικών δικτύων (Group Convolutional Neural Networks - GCNN). Τα GCNN προσφέρουν μοναδικές δυνατότητες σταθερότητας και αμεταβλητότητας σε συμμετρίες, όπως περιστροφές και μετατοπίσεις, καθιστώντας τα ιδανικά για εφαρμογές με υψηλές απαιτήσεις ακρίβειας. Η παρούσα εργασία επικεντρώνεται στην ανάλυση και την υλοποίηση αυτών των αρχιτεκτονικών, ξεκινώντας από τη θεμελίωση των βασικών μαθηματικών εργαλείων, όπως στο τι είναι μία συμμετρία, και προχωρώντας καταλήγει στην ανάπτυξη και τη σύγκριση των GCNN με τα κλασικά συνελικτικά νευρωνικά δίκτυα (CNN). Παράλληλα, δίνεται έμφαση στη μεταφορά συμβατικών μοντέλων σε περιβάλλοντα με περιορισμένους πόρους μέσω τεχνικών συμπίεσης και βελτιστοποίησης. Συγκεκριμένα, η εργασία παρουσιάζει την υλοποίηση ενός TinyML μοντέλου σε μικροελεγκτή (RA8D1), με τη χρήση του Evaluation Kit (EK-RA8D1), για την εφαρμογή σε πραγματικές συνθήκες. Για τη δημιουργία του μοντέλου χρησιμοποιείται η μέθοδος κβάντισης του TensorFlow Lite (TFLite) για τη μείωση της υπολογιστικής πολυπλοκότητας και της κατανάλωσης μνήμης, διατηρώντας παράλληλα υψηλό επίπεδο απόδοσης. Επιπλέον, η τεχνολογία Helium της ARM, με τις (single instruction,multiple data) SIMD δυνατότητες, ενισχύει την αποδοτικότητα της εκτέλεσης των συνελικτικών στρωμάτων. Ως εφαρμογή, αναπτύχθηκε ένα σύστημα αναγνώρισης αριθμητικών χαρακτήρων από εικόνες, επιδεικνύοντας τη λειτουργικότητα του μοντέλου σε πραγματικές συνθήκες. Ο κύριος στόχος της μελέτης είναι η διερεύνηση της σύνδεσης μεταξύ μαθηματικών θεωρητικών εργαλείων, τεχνικών συμπίεσης/βελτιστοποίησης και πρακτικών εφαρμογών στα νευρωνικά δίκτυα. Με την ολοκλήρωσή της, η εργασία επιδιώκει να συμβάλει στην καλύτερη κατανόηση αυτών των τεχνικών, ενώ παράλληλα θέτει τις βάσεις για μελλοντική ερευνητική και τεχνολογική εξέλιξη στον τομέα της τεχνητής νοημοσύνης και των συστημάτων χαμηλής κατανάλωσης ενέργειας.
Description
Keywords
Γεωμετρική βαθιά μάθηση, Ενσωματωμένα συστήματα, Μικροελεκτής RA8D1