Search Results

Now showing 1 - 10 of 27
  • Thumbnail Image
    Item
    Διάγνωση καρδιακών ασθενειών με ευφυείς μεθόδους
    Καραδήμος, Νικόλαος; Karadimos, Nikolaos
    Τμήμα Ηλεκτρολ. Μηχαν. και Τεχνολ. Υπολογ. (ΔΕ)
    Ένα από τα πιο σημαντικά ζητήματα στον τομέα της Ιατρικής είναι η έγκαιρη και έγκυρη διάγνωση ασθενειών. Για τον σκοπό αυτό έχουν χρησιμοποιηθεί διάφορες μέθοδοι μηχανικής μάθησης, οι οποίες μπορούν να δώσουν ακριβή αποτελέσματα σε σύντομο χρονικό διάστημα. Μια ενδιαφέρουσα και αποτελεσματική μέθοδος είναι αυτή των νευρωνικών δικτυών. Η ιστορία των νευρωνικών δικτύων ξεκινάει περίπου την δεκαετία του 1940 και 1950, με αφετηρία τον νευρώνα των McCulloch-Pitts, ενώ παράλληλα έκανε την εμφάνισή του και ο πρώτος αλγόριθμος εκπαίδευσης, o γνωστός Perceptron. Τα τελευταία χρόνια με την ραγδαία εξέλιξη των υπολογιστικών πόρων (CPUs, GPUs κτλ) και με την συσσώρευση τεράστιου όγκου δεδομένων, τα νευρωνικά δικτύα βρίσκουν ολοένα και περισσότερη εφαρμογή σε διάφορους τομείς της επιστήμης μεταξύ των οποίων είναι και η Ιατρική. Ιδιαιτερά στον τομέα της Ιατρικής τα νευρωνικά δίκτυα και η βαθειά μηχανική μάθηση (deep learning) χρησιμοποιούνται ευρέως και με ικανοποιητική αποτελεσματικότητα για την διάγνωση διαφόρων ασθενιών και την ληψη αποφάσεων. Στα πλαίσια λοίπoν της εφαρμογής των νευρωνικών δικτυών στον τομέα της Ιατρικής κινείται και η παρούσα διπλωματική εργασία, η οποία ασχολείται με ένα ιδιαίτερα ενδιαφέρον ζήτημα της διάγνωσης καρδιακών αρρυθμιών και συγκεκριμένα της κολπικής μαρμαρυγής, με την χρήση νευρωνικών δικτύων και τεχνικών βαθειάς μηχανικής μάθησης. Για τις ανάγκες της εργασιάς χρησιμοποιήθηκαν ηλεκτροκαρδιογραφήματα δύο κατηγορίων. Η μια κατηγορία αφόρα άτομα με φυσιολογική δραστηριότητα της καρδιάς, ενώ η άλλη κατηγορία αφόρα ασθενείς οι οποίοι διαγνώστηκαν με κολπική μαρμαρυγή. Για την συλλογή των δεδομένων χρησιμοποιήθηκε η πλατφόρμα Physionet και στην συνέχεια με την κατάλληλη επεξεργασία τα ηλεκτροκαρδιογραφήματα χρησιμοποιήθηκαν ως είσοδος ενός νευρωνικού δικτύου 8 κρυφών επιπέδων. Για την εκπαίδευση του νευρωνικού δικτύου έγιναν αρκετές δοκιμές κυριώς όσον αφορά των αριθμό των επίπεδων τον αριθμό των νευρώνων ανά επίπεδο, το ρυθμό εκπαίδευσης και άλλων παραμέτρων τα οποία παρούσιαζονται αναλυτικότερα σε παρακάτω κεφάλαια. Ως γλώσσα προγραμματισμού χρησιμοποιήθηκε η Python, η οποία τα τελευταία χρόνια είναι αρκετά δημοφιλής στον τομέα της τεχνητής νοημοσύνης και της μηχανικής μάθησης καθώς διαθέτει μια πληθώρα βιβλιοθηκών, όπως Tensorflow, Keras κτλ.
  • Thumbnail Image
    Item
    Βαθιά μάθηση στη βιοπληροφορική
    Λαμπράκης, Χρήστος; Lamprakis, Christos
    Τμήμα Μαθηματικών (ΜΔΕ)
    Η βαθιά μάθηση, η οποία είναι ιδιαίτερα τρομερή στο χειρισμό μεγάλων δεδομένων, έχει επιτύχει μεγάλη πρόοδο σε διάφορους τομείς, συμπεριλαμβανομένης της Βιοπληροφορικής. Με τις εξελίξεις της μεγάλης εποχής των δεδομένων στη βιολογία, είναι προβλέψιμο ότι η βαθιά εκμάθηση θα αποκτήσει ολοένα και μεγαλύτερη σημασία στον τομέα. Σ΄ αυτή την εργασία, εισάγουμε την έννοια της βαθιάς μάθησης και παραδείγματα των αντιπροσωπευτικών εφαρμογών της στη βιοπληροφορική, συγκεκριμένα στα πεδία της γονιδιωματικής και της μεταγραφωματικής. Αναλυτικότερα, στο Κεφάλαιο 1, παρέχουμε βασικές αρχές καθώς και αλγορίθμους της Μηχανικής Μάθησης. Συγκεκριμένα, επικεντρονώμαστε σε τρεις τύπους μάθησης με επίβλεψη, τη γραμμική και λογιστική παλινδρόμηση όπως και στον αλγόριθμο των κ-Κοντινότερων γειτόνων. Ο λόγος είναι οτι θα συγκριθούν με τις δύο μεθόδους βαθιάς μάθησης που θα παρουσιαστούν στο Κεφάλαιο 3 την D-GEX και DanQ όπου και θα αποδειχθεί μέσω των πειραματικών αποτελεσμάτων ότι υστερούν. Στο Κεφάλαιο 2, γίνεται η ανάλυση της Βαθιάς Μάθησης, αλλά και των Βαθιά Νευρωνικών Δικτύων. Επιπλέον, αναδεικνύονται οι δύο θεμελιώδεις αρχιτεκτονικές της Βαθιάς Μάθησης, τα Συνελικτικά και τα Αναδρομικά Νευρωνικά Δίκτυα. Ιδιαίτερο ενδιαφέρον αποτελεί το ”πάντρεμα”, αυτών των δικτύων καθότι παράγεται η DanQ. Συγκεκριμένα, θα περιγραφεί ο τρόπος χρήσης CNN και RNN για τη πρόβλεψη της λειτουργικότητας μη-κωδικοποιητικού DNA (ncDNA). Στη συνέχεια της εργασίας, στο Κεφάλαιο 3, περιγράφουμε σημαντικές έννοιες της Βιολογίας και αναλύονται σημαντικά πεδία της βιοπληροφορικής όπως η γονιδιωματική, η μεταγραφωματική και η ανάλυση δεδομένων γονιδιακής έκφρασης. Το προφίλ έκφρασης γονιδίων μεγάλης κλίμακας έχει χρησιμοποιηθεί ευρέως για τον χαρακτηρισμό των κυτταρικών καταστάσεων ως απόκριση σε διάφορες καταστάσεις ασθένειας. Παρουσιάζεται μια μέθοδος βαθιάς μάθησης (D-GEX) για την ανάλυση γονιδιακής έκφρασης των γονιδίων στόχων από την έκφραση των γονιδιών οροσήμων. Χρησιμοποιήθηκε το σύνολο δεδομένων, Gene Expression Omnibus, αποτελούμενο από 111.009 προφίλ έκφρασης, για την εκπαιδεύση του μοντέλου και τη συγκρίση της απόδοσής του με αλγορίθμους Μηχανικής Μάθησης. Όσον αφορά το μέσο απόλυτο σφάλμα κατά μέσο όρο σε όλα τα γονίδια, η βαθιά μάθηση ξεπερνά σημαντικά την Γραμμική Παλινδρόμηση με 15.33%. Μια συγκριτική ανάλυση βάσει γονιδίων δείχνει ότι η βαθιά μάθηση επιτυγχάνει χαμηλότερο σφάλμα από τη Γραμμική Παλινδρόμηση στο 99.97% των γονιδίων-στόχων. Τέλος, έγινε δοκιμή της απόδοσης του μοντέλου σε ένα ανεξάρτητο σύνολο δεδομένων GTEx, το οποίο αποτελείται από 2.921 προφίλ έκφρασης. Η βαθιά μάθηση εξακολουθεί να ξεπερνά τη Γραμμική Παλινδρόμηση με σχετική βελτίωση 6.57% και επιτυγχάνει χαμηλότερο σφάλμα στο 81.31% των γονιδίων-στόχων. Στο ευρύτερο πεδίο της γονιδιωματικής, η μοντελοποίηση των ιδιοτήτων και των λειτουργιών των αλληλουχιών DNA είναι ένα σημαντικό, αλλά δύσκολο έργο. Γίνεται ακόμα πιο περίπλοκο, στη περίπτωση του μη-κωδικοποιητικό DNA. Ένα ισχυρό μοντέλο πρόβλεψης για τη λειτουργία του μη κωδικοποιητικού DNA μπορεί να έχει τεράστιο όφελος τόσο για τη βασική επιστήμη όσο και για τη μεταγραφική έρευνα, επειδή πάνω από το 98% του ανθρώπινου γονιδιώματος είναι μη-κωδικοποιητικό. Για την αντιμετώπιση αυτής της ανάγκης, προτάθηκε το DanQ, ένα συνελικτικό και αναδρομικό νευρωνικό δίκτυο.
  • Thumbnail Image
    Item
    Κατανεμημένη υλοποίηση τεχνικών επισημείωσης αδόμητου κειμένου με οντότητες Wikipedia, με χρήση τεχνικών εντοπισμού κοινοτήτων με βάση την τεχνική K-μέσων και νευρωνικών δικτύων βαθιάς αρχιτεκτονικής
    Κύρος, Στέργιος; Kyros, Stergios
    Τμήμα Μηχανικών Η/Υ και Πληροφορικής (ΔΕ)
    Η επισημείωση αδόμητου κειμένου με σχετική εννοιολογική πληροφορία αποτελεί σημαντικό βήμα προεπεξεργασίας σε πεδία σαν την ανάκτηση πληροφορίας, την τεχνητή νοημοσύνη, την μηχανική μάθηση, την διαχείριση δεδομένων κ.α. Οι οντότητες που υπάρχουν στην Wikipedia συνοδεύονται από κοινά αποδεκτές περιγραφές εννοιών. Η διαδικασία επισημείωσης κειμένου με την χρήση οντοτήτων της Wikipedia, διαδικασία γνωστή και ως Wikification είναι διαδικασία δύο βημάτων. Το πρώτο βήμα είναι η αναγνώριση των κυρίαρχων εννοιών του κειμένου (αναγνώριση επονομαζόμενων οντοτήτων) και στην συνέχεια η σύνδεση τους με άρθρο της Wikipedia αντίστοιχου εννοιολογικού πλαισίου (αποσαφήνιση επονομαζόμενων οντοτήτων). Τα σύγχρονα συστήματα σύνδεσης οντοτήτων δεν περιορίζουν την ανάλυση τους μόνο στα λεξιλογικά χαρακτηριστικά του κειμένου. Ένας από τους τρόπους για να αναπαρασταθούν πιο λεπτομερώς οι σχέσεις μεταξύ των οντοτήτων είναι με την μοντελοποίηση των σχέσεων μεταξύ των οντοτήτων και τον αναφορών σε γράφημα με την βοήθεια μεγάλων βάσεων γνώσης σαν την Wikipedia. Αυτό παρέχει την δυνατότητα να εξαχθούν σύνθετα χαρακτηριστικά εκμεταλλευόμενοι την σύνθετη σχέση που δημιουργείται ανάμεσα στις οντότητες, όπως και την τοπολογία του γραφήματος. Η παρούσα διπλωματική εργασία επικεντρώνεται στην επισημείωση αδόμητου κειμένου με την χρήση οντοτήτων Wikipedia, χρησιμοποιώντας τον αλγόριθμο K-μέσων για την εκμετάλλευση των σύνθετων σχέσεων του γραφήματος της Wikipedia με την εύρεση κοινοτήτων οντοτήτων και την εξαγωγή χρήσιμων χαρακτηριστικών, ώστε να γίνει χρήση Νευρωνικών Δικτύων βαθιάς αρχιτεκτονικής για την επίτευξη αξιόπιστων προβλέψεων. Η υλοποίηση που παρέχεται αποτελεί μια πλήρως κατανεμημένη και κλιμακώσιμη προσέγγιση, η οποία δείχνει την συμβολή της χρήσης της πληροφορίας των κοινοτήτων στην επιτυχή αντιστοίχιση αναφοράς σε οντότητα.
  • Thumbnail Image
    Item
    Κατανεμημένη υλοποίηση τεχνικών σημασιολογικής διασύνδεσης με οντότητες Wikipedia, με τεχνικές πρόβλεψης κοινοτήτων και νευρωνικών δικτύων βαθιάς αρχιτεκτονικής
    Ανδρικόπουλος, Ανδρέας; Andrikopoulos, Andreas
    Τμήμα Μηχανικών Η/Υ και Πληροφορικής (ΜΔΕ)
    Η σημασιολογική διασύνδεση οντοτήτων με υποκείμενη εννοιολογική πληροφορία ή αλλιώς ονομαστική αποσαφήνιση οντοτήτων είναι από τα πλέον ενδιαφέροντα ανοικτά προβλήματα στην επεξεργασία φυσικής γλώσσας και αποτελεί σημαντικό βήμα προεπεξεργασίας δεδομένων στα πεδία της ανάκτησης πληροφορίας, της τεχνητής νοημοσύνης, της μηχανικής μάθησης κ.α.. Αποτελεί την ικανότητα αναγνώρισης της σωστής έννοιας των αναφορών μέσα σε ένα κείμενο με υπολογιστικό τρόπο. Η δυσκολία του προβλήματος έγκειται στο γεγονός ότι οι αναφορές αυτές πολλές φορές είναι αμφίσημες και πολύσημες ως προς τις οντότητες του κόσμου που αναπαριστούν. Μια εφαρμογή ονομαστικής αποσαφήνισης οντοτήτων είναι στο πρόβλημα του Wikification, το οποίο στοχεύει στην εύρεση των κυρίαρχων εννοιών μέσα σε ένα κείμενο και τη διασύνδεση αυτών με άρθρα της Wikipedia που έχουν αντίστοιχο εννοιολογικό περιεχόμενο με το εκάστοτε κείμενο. Η παρούσα μεταπτυχιακή εργασία επικεντρώνεται στο πρόβλημα της σημασιολογικής διασύνδεσης οντοτήτων μέσα από τη χρήση τεχνικών πρόβλεψης κοινοτήτων και νευρωνικών δικτύων βαθιάς αρχιτεκτονικής. Η Wikipedia μπορεί να αναπαρασταθεί μέσω ενός γραφήματος με βαθύ σημασιολογικό περιεχόμενο, με κόμβους τα άρθρα και ακμές τους υπερσυνδέσμους μεταξύ των συ σχετιζόμενων άρθρων. Αντιμετωπίζοντας τα άρθρα σαν οντότητες, εφαρμόζουμε τεχνικές πρόβλεψης κοινοτήτων και τις ομαδοποιούμε με βάση το εννοιολογικό τους περιεχόμενο, με σκοπό να εξάγουμε τα κατάλληλα χαρακτηριστικά εκείνα που θα εκπαιδεύσουν την αρχιτεκτονική νευρωνικού δικτύου που επιλέχθηκε. Μέσα από την υλοποίηση και την αξιολόγηση μιας εγγενώς κατανεμημένης και βαθμωτής λύσης αποδεικνύεται η θετική συμβολή του χαρακτηριστικού της συνοχής της κοινότητας στο πρόβλημα της αποσαφήνισης οντοτήτων προσφέροντας ανταγωνιστικά αποτελέσματα, με ακρίβεια της τάξης του 81%.
  • Thumbnail Image
    Item
    Ανάπτυξη βιβλιοθήκης λογισμικού για εφαρμογές μηχανικής μάθησης σε παράλληλα υπολογιστικά συστήματα
    Μπαμπούρης, Ανδρέας; Δερματάς, Ευάγγελος; Σγάρμπας, Κυριάκος; Bampouris, Andreas
    Τμήμα Ηλεκτρολ. Μηχαν. και Τεχνολ. Υπολογ. (ΔΕ)
    Αντικείμενο της παρούσας διπλωματικής εργασίας είναι η προγραμματιστική υλοποίηση βασικών τεχνικών μηχανικής μάθησης με τέτοιο τρόπο που να γίνεται εκμετάλλευση των αρχιτεκτονικών παράλληλης επεξεργασίας που συναντώνται στους σύγχρονους υπολογιστές. Έχουν υλοποιηθεί μοντέλα και μέθοδοι όπως αυτά της γραμμικής παλινδρόμησης, της λογιστικής παλινδρόμησης, των τεχνητών νευρωνικών δικτύων εμπρόσθιας τροφοδότησης, του απλού ταξινομητή Bayes, της εκμάθησης δέντρων αποφάσεων, και της ομαδοποίησης k-μέσων. Έγινε χρήση της γλώσσας προγραμματισμού C++ μαζί με τη βιβλιοθήκη γραμμικής άλγεβρας Eigen, ενώ για την παραλληλοποίηση των αλγορίθμων χρησιμοποιήθηκε το πρότυπο OpenMP. Στα πλαίσια της εργασίας έγιναν δοκιμές σε πραγματικά δεδομένα, και η προκύπτουσα βιβλιοθήκη λογισμικού μπορεί να χρησιμοποιηθεί για την ανάπτυξη πραγματικών εφαρμογών.
  • Thumbnail Image
    Item
    Αναγνώριση κινήσεων του χεριού μέσω επιφανειακών ηλεκτρομυϊκών σημάτων με τεχνικές deep learning
    Τσάγκας, Νικόλαος; Σκόδρας, Αθανάσιος; Σκόδρας, Αθανάσιος; Σγάρμπας, Κυριάκος; Tsagkas, Nikolaos
    Τμήμα Ηλεκτρολ. Μηχαν. και Τεχνολ. Υπολογ. (ΔΕ)
    Τα τελευταία χρόνια έχει αναπτυχθεί στην ερευνητική κοινότητα ένα αυξημένο ενδιαφέρον για την αναγνώριση κινήσεων του χεριού μέσω επιφανειακών ηλεκτρομυϊκών σημάτων, με τεχνικές Deep Learning. Σε αυτή τη διπλωματική εργασία παρουσιάζεται η διαδικασία σχεδίασης επίσης αρχιτεκτονικής συνελικτικού νευρωνικού δικτύου, με σκοπό την αναγνώριση κινήσεων του χεριού μέσω επιφανειακών ηλεκτρομυϊκών σημάτων. Για το σκοπό αυτό αξιοποιήθηκε η πολύ διαδεδομένη βάση δεδομένων Ninapro, η οποία περιέχει καταγραφές ηλεκτρομυϊκών σημάτων από 52 διαφορετικές κινήσεις του χεριού. Στη συνέχεια, θέλοντας να συνεισφέρουμε στην προσπάθεια συλλογής περισσότερων ηλεκτρομυϊκών σημάτων, το οποίο αποτελεί καθοριστικό παράγοντα για την απόδοση του Deep Learning, αναπτύξαμε τη δική επίσης βάση δεδομένων επιφανειακών ηλεκτρομυϊκών σημάτων, τη MyoUP. Για επίσης καταγραφές χρησιμοποιήθηκε η εύχρηστη συσκευή Myo Armband. Στο παρόν σύγγραμμα παρουσιάζεται όχι μόνο η διαδικασία ανάπτυξης επίσης βάσης επίσης αλλά και τα αποτελέσματα σύγκρισης επίσης ποιότητας των δεδομένων επίσης με επίσης καταγραφές του 5ου dataset επίσης βάσης δεδομένων Ninapro, καθώς και αυτό το dataset δημιουργήθηκε με τη βοήθεια του Myo Armband. Τέλος, παρουσιάζεται η ανάπτυξη επίσης λογισμικού αναγνώρισης κινήσεων του χεριού σε πραγματικό χρόνο. Στο λογισμικό αυτό αξιοποιήθηκε το νευρωνικό δίκτυο που σχεδιάστηκε στα πλαίσια επίσης διπλωματικής, το οποίο και εκπαιδεύτηκε με τα δεδομένα επίσης βάσης δεδομένων MyoUP. Η εκπαίδευση του νευρωνικού δικτύου έλαβε χώρα σε έναν απομακρυσμένο server μεγάλης υπολογιστικής ισχύος, ενώ ο απαραίτητος κώδικας γράφτηκε στη γλώσσα προγραμματισμού Python. Επίσης, η εφαρμογή αναγνώρισης των κινήσεων του χεριού σε πραγματικό χρόνο αναπτύχθηκε σε Python ενώ η επεξεργασία των σημάτων έγινε με το πρόγραμμα MATLAB.
  • Thumbnail Image
    Item
    Eπεξεργασία εγκεφαλογραφήματος για έγκαιρη ανίχνευση επιληπτικής κρίσης
    Μενάγια, Ελένη; Μenagia, Eleni
    Τμήμα Ηλεκτρολ. Μηχαν. και Τεχνολ. Υπολογ. (ΔΕ)
    H παρούσα διπλωματική εργασία κινείται στον κλάδο της επεξερ- γασίας σήματος και ταξινόμησης στην αντίστοιχη κλάση με χρήση Βαθιάς Μάθησης. Σκοπός είναι η υλοποίηση ενός μοντέλου έγκαιρης ανί- χνευσης επιληπτικής κρίσης, από ένα νευρωνικό δίκτυο μακράς βραχυπρό- θεσμης μνήμης (Long Short Term Memory-LSTM), το οποίο δέχεται σαν είσοδο εξαχθέντα χαρακτηριστικά από ηλεκτροεγκεφαλογραφήματα ασθε- νών που πάσχουν από επιληψία της ανοιχτά προσβάσιμης βάσης δεδομέ- νων CHB-MIT. Τα αποτελέσματα είναι άμεσα συγκρίσιμα με ήδη εφαρμό- σιμες υλοποιήσεις, οι οποίες, ωστόσο, απαιτούν πολύ μεγάλη υπολογιστική ισχύ και έχουν ιδιαίτερα μεγάλη πολυπλοκότητα κατά το σχεδιασμό. Με βάση το μοντέλο του LSTM, του οποίου η αρχιτεκτονική καιπροσέγγιση χρησιμοποιείται, σχεδιάζεται ένα δίκτυο ταξινόμησης των εξαχθέντων χα- ρακτηριστικών, σε δύο κλάσεις, τα σήματα που προηγούνται της επιληπτι- κής κρίσης (preictal segments) και τα σήματα που διαδέχονται τις επιλη- πτικές κρίσεις (interictal segments). Αρχικά, φορτώνονται τα δεδομένα, τμηματοποιούνται σε μη επι- καλυπτόμενα παράθυρα ίδιας διάρκειας και ανατίθενται στην αντίστοιχη κλάση, βάσει των αρχείων σχολιασμού των ειδικών. Στηνσυνέχεια, τα τμή- ματα σημάτων της κάθε κλάσης διέρχονται από την ενότητα εξαγωγής χα- ρακτηριστικών, όπου εξάγονται χαρακτηριστικά, ευστόχως αντιπροσωπευ- τικά για το περιεχόμενο τωνσημάτων και δημιουργούνται τα κατάλληλα σύνολα για την εκπαίδευση και την αξιολόγηση του μοντέλου. Τέλος, δη- μιουργούνται και συγκρίνονται τρεις διαφορετικές αρχιτεκτονικές (από την απλούστερη στην πιο σύνθετη) του μοντέλου, το οποίο δεχόμενο τα δια- νύσματα των εξαγώμενων χαρακτηριστικών, αποδίδει τελικά προβλέψεις για την κατηγορία στην οποία αυτά ανήκουν, στα πλαίσια ενός χρονικού παραθύρου προ-κρίσης κατάστασης 15 λεπτών, 30 λεπτών και 60 λεπτών. Ορίζοντας παραμέτρους όπως η απώλεια και ο αλγόριθμος βελτιστοποίη- σης εκπαιδεύεται το μοντέλο για σύνολο 50 εποχών, δημιουργώντας έναν αποδοτικό και ακριβή ταξινομητή για ηλεκτροεγκεφαλογραφικά σήματα. Η υλοποίηση του μοντέλου έγινε με χρήση της γλώσσας προγραμ- ματισμού Python, ενώ η ανάπτυξη και ο σχεδιασμός του δικτύου βασίστηκε στη βιβλιοθήκη TensorFlow.
  • Thumbnail Image
    Item
    Αναγνώριση κινήσεων χεριού μέσω sEMG σημάτων και deep learning
    Πεφτίκογλου, Παντελεήμων Αλκίνοος; Peftikoglou, Panteleimon Alkinoos
    Τμήμα Ηλεκτρολ. Μηχαν. και Τεχνολ. Υπολογ. (ΔΕ)
    Η παρούσα εργασία επικεντρώνεται στην ανάπτυξη αρχιτεκτονικών συνελικτικών νευρωνικών δικτύων για την αναγνώριση κινήσεων χεριού μέσω επιφανειακών ηλεκτρομυογραφημάτων. Αρχικά, γίνεται αναφορά στην βασική θεωρία γύρω από τα ηλεκτρομυογραφήματα. Πιο συγκεκριμένα, περιγράφεται το στάδιο της δημιουργίας τους κατά την εκτέλεση μια κίνησης και ο τρόπος καταγραφής τους. Κατόπιν, αναλύονται τα χαρακτηριστικά των επιφανειακών ηλεκτρομυϊκών σημάτων. Στη συνέχεια, αφού αναφερθούν οι βασικές αρχές της μηχανικής μάθησης και του Deep Learning, παρουσιάζονται οι βάσεις δεδομένων των ηλεκτρομυογραφημάτων που χρησιμοποιούνται στην εργασία. Για τις ανάγκες της εργασίας επιλέχθηκαν τα δεδομένα από τα datasets DB1 και DB5 της Ninapro και το DB-c από την CapgMyo. Για κάθε ένα από αυτά, απαριθμούνται οι τεχνικές επεξεργασίας που πραγματοποιήθηκαν, όπως φιλτράρισμα, κανονικοποίηση πλάτους και δημιουργία sEMG εικόνας, προκειμένου να φέρουμε τα δεδομένα στην επιθυμητή μορφή. Επιπρόσθετα, ακολουθούν τα δύο πειραματικά στάδια της παρούσας έρευνας. Στο πρώτο στάδιο περιγράφεται ο τρόπος δημιουργίας των νευρωνικών δικτύων, η διαδικασία επιλογής των τιμών των υπερπαραμέτρων, αλλά και τα αποτελέσματα της ταξινόμησης των κινήσεων για κάθε βάση δεδομένων. Στο δεύτερο στάδιο, πραγματοποιείται μια μελέτη για το dataset DB-c της CapgMyo, που αποτελείται από δεδομένα εκατοντάδων αισθητήρων καταγραφής, προκειμένου να προσδιορίσουμε την ομάδα ηλεκτροδίων που παρουσιάζει την μεγαλύτερη σημασία στην αναγνώριση των κινήσεων. Έτσι, τα δεδομένα κάθε ομάδας «αλλοιώνονται» με δύο τρόπους. Πρώτα αντικαθίστανται με μηδενικές τιμές και έπειτα με τυχαίες τιμές θορύβου. Για κάθε περίπτωση καταγράφονται τα αποτελέσματα της ταξινόμησης. Τέλος, γίνεται μια σύνοψη των συμπερασμάτων που προέκυψαν από αυτή την έρευνα και παρουσιάζονται ορισμένες πιθανές μελλοντικές τροποποιήσεις και ιδέες προς διερεύνηση.
  • Thumbnail Image
    Item
    Ανάλυση κειμένου σε κοινωνικά δίκτυα και αναγνώριση συναισθηματικού περιεχομένου
    Δούκα, Ελισάβετ-Άννα; Douka, Elisavet-Anna
    Τμήμα Μηχανικών Η/Υ και Πληροφορικής (ΔΕ)
    Η αναγνώριση συναισθηματικού περιεχομένου της Φυσικής Γλώσσας μπορεί να βελτιώσει κατά πολύ την επικοινωνία ανθρώπου και υπολογιστή με ένα υπολογιστικό σύστημα δίνοντας του την δυνατότητα να αναγνωρίσει και να μιμηθεί συναισθηματικές εκφράσεις. Ο τομέας της αναγνώρισης συναισθήματος κατέχει σημαντική θέση στις εφαρμογές της τεχνητής νοημοσύνης. Η ραγδαία ανάπτυξη των μέσων κοινωνικής δικτύωσης και η δυνατότητα των χρηστών μέσω αυτών να εκφράζουν ελεύθερα την γνώμη τους πάνω σε όλα τα θέματα της επικαιρότητας, αύξησε την ανάγκη για τη μελέτη και την καταγραφή της χρήσης τους. Έτσι, στα πλαίσια της παρούσας διπλωματικής εργασίας θα αναπτυχθεί μηχανισμός αναγνώρισης της συναισθηματικής πληροφορίας που μεταφέρεται σε προτάσεις Φυσικής Γλώσσας. Στο αρχικό στάδιο της έρευνας, γίνεται αναφορά σε πολλές state of the art τεχνικές που υπάρχουν ήδη στον συγκεκριμένο τομέα. Ύστερα, γίνεται η κατάλληλη προ-επεξεργασία και μετατροπή των δεδομένων, με γνωστές τεχνικές, για την εξαγωγή των κατάλληλων πληροφοριών και λέξεων-κλειδιών που φέρουν συναισθηματική πληροφορία. Ο κύριος στόχος της παρούσας εργασίας είναι η υλοποίηση του προ-εκπαιδευμένου μετασχηματιστή BERT, καθώς και η μελέτη της απόδοσης του, όσον αφορά τον προσδιορισμό και την ανίχνευση συναισθημάτων στα σχόλια χρηστών στα κοινωνικά δίκτυα. Αναλύεται το γενικό πλαίσιο του BERT, περιγράφεται αναλυτικά η διαδικασία υλοποίησης του και οι ειδικές μετατροπές που χρειάστηκαν να γίνουν για την λύση του συγκεκριμένου προβλήματος. Στη συνέχεια, υλοποιήθηκαν και δοκιμάστηκαν τόσο κλασικοί αλγόριθμοι ταξινόμησης όσο και διάφορες αρχιτεκτονικές νευρωνικών δικτύων, για να μελετηθεί η απόδοση του BERT σε σχέση με τα άλλα μοντέλα. Έπειτα, διεξάχθηκαν πειράματα με την χρήση των μοντέλων αυτών σε ένα αξιοσημείωτο πλήθος συνόλων δεδομένων. Στο τέλος της έρευνας αξιολογήθηκαν όλες οι προσεγγίσεις, συγκρίθηκαν τα αποτελέσματα τους και έγιναν οι ανάλογες παρατηρήσεις. Τελικός στόχος είναι η μελέτη της απόδοσης και της συμπεριφοράς του μοντέλου BERT, συγκρινόμενο με τα υπόλοιπα μοντέλα. Τα αποτελέσματα της έρευνας έδειξαν ότι παρόλο που το BERT μπορεί να πετύχει καλύτερη απόδοση από τους κλασικούς αλγορίθμους και αρκετά νευρωνικά δίκτυα, έχει επιπλέον περιθώρια βελτίωσης και μελέτης.
  • Thumbnail Image
    Item
    Τεχνικές βελτίωσης απόδοσης και μείωσης κόστους επικοινωνίας σε federated learning στρατηγική
    Τσαλίδης, Ανδρέας; Tsalidis, Andreas
    Τμήμα Μηχανικών Η/Υ και Πληροφορικής (ΔΕ)
    Η ομοσπονδιακή μάθηση έχει ένα κεντρικό μοντέλο στον διακομιστή, συγκεντρώνοντας μοντέλα που εκπαιδεύονται τοπικά σε πελάτες. Ως αποτέλεσμα, η ομοσπονδιακή μάθηση δεν απαιτεί από τους πελάτες να ανεβάσουν τα δεδομένα τους στο διακομιστή, διατηρώντας έτσι απόρρητα τα δεδομένα των πελατών. Μια πρόκληση στην ομοσπονδιακή μάθηση είναι η μείωση της επικοινωνίας πελάτη- διακομιστή, δηλαδή το πλήθος των bits που ανταλλάζονται μεταξύ τους. Οι συσκευές έχουν συνήθως πολύ περιορισμένο εύρος ζώνης επικοινωνίας. Στη παρούσα διπλωματική παρουσιάζεται μια στρατηγική μείωσης του κόστους επικοινωνίας,. Κατασκευάζουμε δύο νευρωνικά δίκτυα τα οποία κατηγοριοποιούνται σε ρηχά (ένα κρυφό επίπεδο) και βαθιά δίκτυα (τουλάχιστον 2 κρυφά επίπεδα). Το βαθύ μοντέλο ενημερώνεται λιγότερο συχνά από αυτό του ρηχού μοντέλου. Τα αποτελέσματά δείχνουν, ότι με αυτό τον τρόπο, μπορούμε να μειώσουμε το κόστος επικοινωνίας, χωρίς να χάσουμε σε ακρίβεια. Επιπλέον η παρούσα διπλωματική παρουσιάζει μια βελτιωμένη ομοσπονδιακή τεχνική μάθησης, προτείνοντας μια στρατηγική μάθησης, που αυξάνει την ακρίβεια του μοντέλου, πετυχαίνοντας παράλληλα και γρηγορότερη σύγκλιση, χρησιμοποιώντας στους optimizers των πελατών φθίνων ρυθμό μάθησης. Οπότε οι προτεινόμενες μέθοδοι, ξεπερνούν τον βασικό αλγόριθμο, τόσο σε όρους κόστος επικοινωνίας και ακρίβειας μοντέλου.