Search Results

Now showing 1 - 10 of 46
  • Thumbnail Image
    Item
    Ανάπτυξη αλγορίθμου βαθιάς ενισχυτικής μάθησης στο παιχνίδι MsPacman της πλατφόρμας Atari
    Καραμπίνης, Ιωάννης; Karampinis, Ioannis
    Τμήμα Ηλεκτρολ. Μηχαν. και Τεχνολ. Υπολογ. (ΔΕ)
    Η παρούσα διπλωματική εργασία πραγματεύεται την ανάπτυξη αλγορίθμου βαθιάς ενισχυτικής μάθησης σε περιβάλλον παιχνιδιού. Στο πέρασμα των χρόνων, η τεχνολογική κοινότητα επιδιώκει να εντάξει τη συμπεριφορά των ζωντανών οργανισμών, η οποία μεταβάλλεται κατά τη διάρκεια της ζωής τους μέσω της εκπαίδευσης, στα διάφορα τεχνολογικά επιτεύγματα. Ο χώρος της μηχανικής μάθησης και ειδικότερα της ενισχυτικής μάθησης, βασιζόμενος στο παραπάνω δόγμα, δημιουργεί πράκτορες οι οποίοι δύναται να μαθαίνουν διαμέσου της συνεχούς αλληλεπίδρασης με το περιβάλλον. Ωστόσο, τα σύγχρονα προβλήματα εξαιτίας της μεγάλης πολυπλοκότητάς τους, έχουν θεσπίσει ορισμένους περιορισμούς ως προς την εφαρμογή των αλγορίθμων της ενισχυτικής μάθησης. Η λύση δίδεται μέσω της μίμησης ενός βιολογικού μηχανισμού, των νευρωνικών δικτύων. Η αποτελεσματική εφαρμογή τους σε προβλήματα μεγάλης διαστασιμότητας του ευρύτερου χώρου της τεχνητής νοημοσύνης οδήγησε στην ενσωμάτωσή τους στους αλγορίθμους ενισχυτικής μάθησης. Δημιουργήθηκε με αυτόν τον τρόπο ένα νέο επιστημονικό πεδίο, αυτό της βαθιάς ενισχυτικής μάθησης. Στα πλαίσια της εργασίας υλοποιήθηκαν παραλλαγές των αλγορίθμων βαθιάς ενισχυτικής μάθησης DQN, double DQN, duel DQN και noisy DQN, αναπτύσσοντας τους αντίστοιχους πράκτορες. Το περιβάλλον αλληλεπίδρασης που επιλέχθηκε ήταν κλασσικό παιχνίδι MsPacman της πλατφόρμας Atari 2600. Ο εκάστοτε πράκτορας σε μία ανθρωποκεντρική προσέγγιση, εκπαιδεύεται με τη βοήθεια οπτικών παρατηρήσεων και της ανταμοιβής που δέχεται από το περιβάλλον. Βασικός σκοπός είναι η εκμάθηση του μοντέλου του περιβάλλοντος, που συνοδεύεται με υψηλή συνολική ανταμοιβή στην ολοκλήρωση κάθε παιχνιδιού. Οι πράκτορες αφού εκπαιδεύτηκαν για ορισμένο χρονικό διάστημα, αξιολογήθηκαν ως προς την απόδοσή τους. Στο τέλος της εργασίας παρουσιάζονται τα πειραματικά αποτελέσματα της μελέτης, ενώ παρατίθενται προτάσεις για μελλοντικές βελτιώσεις.
  • Thumbnail Image
    Item
    Διάγνωση καρδιακών ασθενειών με ευφυείς μεθόδους
    Καραδήμος, Νικόλαος; Karadimos, Nikolaos
    Τμήμα Ηλεκτρολ. Μηχαν. και Τεχνολ. Υπολογ. (ΔΕ)
    Ένα από τα πιο σημαντικά ζητήματα στον τομέα της Ιατρικής είναι η έγκαιρη και έγκυρη διάγνωση ασθενειών. Για τον σκοπό αυτό έχουν χρησιμοποιηθεί διάφορες μέθοδοι μηχανικής μάθησης, οι οποίες μπορούν να δώσουν ακριβή αποτελέσματα σε σύντομο χρονικό διάστημα. Μια ενδιαφέρουσα και αποτελεσματική μέθοδος είναι αυτή των νευρωνικών δικτυών. Η ιστορία των νευρωνικών δικτύων ξεκινάει περίπου την δεκαετία του 1940 και 1950, με αφετηρία τον νευρώνα των McCulloch-Pitts, ενώ παράλληλα έκανε την εμφάνισή του και ο πρώτος αλγόριθμος εκπαίδευσης, o γνωστός Perceptron. Τα τελευταία χρόνια με την ραγδαία εξέλιξη των υπολογιστικών πόρων (CPUs, GPUs κτλ) και με την συσσώρευση τεράστιου όγκου δεδομένων, τα νευρωνικά δικτύα βρίσκουν ολοένα και περισσότερη εφαρμογή σε διάφορους τομείς της επιστήμης μεταξύ των οποίων είναι και η Ιατρική. Ιδιαιτερά στον τομέα της Ιατρικής τα νευρωνικά δίκτυα και η βαθειά μηχανική μάθηση (deep learning) χρησιμοποιούνται ευρέως και με ικανοποιητική αποτελεσματικότητα για την διάγνωση διαφόρων ασθενιών και την ληψη αποφάσεων. Στα πλαίσια λοίπoν της εφαρμογής των νευρωνικών δικτυών στον τομέα της Ιατρικής κινείται και η παρούσα διπλωματική εργασία, η οποία ασχολείται με ένα ιδιαίτερα ενδιαφέρον ζήτημα της διάγνωσης καρδιακών αρρυθμιών και συγκεκριμένα της κολπικής μαρμαρυγής, με την χρήση νευρωνικών δικτύων και τεχνικών βαθειάς μηχανικής μάθησης. Για τις ανάγκες της εργασιάς χρησιμοποιήθηκαν ηλεκτροκαρδιογραφήματα δύο κατηγορίων. Η μια κατηγορία αφόρα άτομα με φυσιολογική δραστηριότητα της καρδιάς, ενώ η άλλη κατηγορία αφόρα ασθενείς οι οποίοι διαγνώστηκαν με κολπική μαρμαρυγή. Για την συλλογή των δεδομένων χρησιμοποιήθηκε η πλατφόρμα Physionet και στην συνέχεια με την κατάλληλη επεξεργασία τα ηλεκτροκαρδιογραφήματα χρησιμοποιήθηκαν ως είσοδος ενός νευρωνικού δικτύου 8 κρυφών επιπέδων. Για την εκπαίδευση του νευρωνικού δικτύου έγιναν αρκετές δοκιμές κυριώς όσον αφορά των αριθμό των επίπεδων τον αριθμό των νευρώνων ανά επίπεδο, το ρυθμό εκπαίδευσης και άλλων παραμέτρων τα οποία παρούσιαζονται αναλυτικότερα σε παρακάτω κεφάλαια. Ως γλώσσα προγραμματισμού χρησιμοποιήθηκε η Python, η οποία τα τελευταία χρόνια είναι αρκετά δημοφιλής στον τομέα της τεχνητής νοημοσύνης και της μηχανικής μάθησης καθώς διαθέτει μια πληθώρα βιβλιοθηκών, όπως Tensorflow, Keras κτλ.
  • Thumbnail Image
    Item
    Πρόβλεψη χρηματιστηριακών τιμών μετοχών με χρήση στατιστικών μοντέλων και μεθόδων μηχανικής μάθησης για την εκτίμηση της επίδοσης ανταγωνιστικών εταιρειών
    Πανταζής, Παύλος; Pantazis, Pavlos
    Τμήμα Ηλεκτρολ. Μηχαν. και Τεχνολ. Υπολογ. (ΔΕ)
    Η αυξανόμενη διαθεσιμότητα υπολογιστικών πόρων σε συνδυασμό με τις εξελίξεις των τελευταίων ετών τόσο σε επίπεδο λογισμικού όσο και σε επίπεδο υλικού, μας παρέχουν τη δυνατότητα υλοποίησης σύνθετων διεργασιών αλλά και χρήσης υπολογιστικών μοντέλων, τα οποία στο παρελθόν είχαν πολύ υψηλό υπολογιστικό κόστος. Έτσι, η εφαρμογή των εργαλείων της επιστήμης των υπολογιστών έχει αυξηθεί ραγδαία αλλάζοντας πολλά ερευνητικά και επαγγελματικά πεδία. Ένας από τους πλέον δημοφιλέστερους τομείς της επιστήμης των υπολογιστών είναι η μηχανική μάθηση και πιο συγκεκριμένα τα νευρωνικά δίκτυα. Τα νευρωνικά δίκτυα χρησιμοποιούνται σε ένα ευρύ φάσμα εφαρμογών από την ανάλυση εικόνων σε πραγματικό χρόνο για την ταυτοποίηση προσώπων μέχρι την πρόβλεψη χρονοσειρών. Σκοπός της διπλωματικής εργασίας είναι η πρόβλεψη των ημερήσιων τιμών των μετοχών που συμπεριλαμβάνονται στο δείκτη Standard and Poor’s 500. Οι προβλέψεις παράγονται από μεθόδους μηχανικής μάθησης και κυρίως από νευρωνικά δίκτυα, οι επιδόσεις των οποίων επιδιώκεται να βελτιωθούν. Στη συνέχεια με βάση τις παραγόμενες προβλέψεις εξετάζεται εάν μπορεί να υλοποιηθεί μία κερδοφόρα στρατηγική επενδύσεων κάνοντας χρήση μεθόδων βελτιστοποίησης χαρτοφυλακίου. Τελικά αποδεικνύεται πως ο συνδυασμός προβλέψεων υψηλής ακρίβειας με μεθόδους βελτιστοποίησης χαρτοφυλακίου μπορεί να αποτελέσει μία κερδοφόρα στρατηγική ωστόσο δεν είναι βέβαιο πως η στρατηγική αυτή θα αποδίδει περισσότερο από τον δείκτη S&P 500.
  • Thumbnail Image
    Item
    Εφαρμογή τεχνικών εξόρυξης γνώσης στην εκπαίδευση
    (2012-05-31) Παπανικολάου, Δονάτος; Πιντέλας, Παναγιώτης; Ράγγος, Όμηρος; Καββαδίας, Δημήτριος; Πιντέλας, Παναγιώτης; Papanikolaou, Donatos
    Τμήμα Μαθηματικών (ΜΔΕ)
    Σε αυτή την Διπλωματική εργασία μελετήσαμε με ποιο τρόπο μπορούν να εφαρμοστούν οι διάφορες τεχνικές Εξόρυξης Γνώσης (Data Mining) στην εκπαίδευση. Αυτός ο επιστημονικός τομέας o οποίος ερευνά και αναπτύσσει τεχνικές προκειμένου να ανακαλύψει γνώση από δεδομένα τα οποία προέρχονται από την εκπαίδευση ονομάζεται Εξόρυξη Γνώσης από Εκπαιδευτικά Δεδομένα (Educational Data Mining –EDM. Στην εργασία αυτή εκτός από την θεωρητική μελέτη των αλγορίθμων και των τεχνικών που διέπουν την εξόρυξη γνώσης από δεδομένα γενικά, έγινε και μια λεπτομερέστερη μελέτη και παρουσίαση της κατηγορίας των αλγορίθμων κατηγοριοποίησης (Classification), διότι αυτοί οι αλγόριθμοι χρησιμοποιήθηκαν στην φάση της υλοποίησης/αξιολόγησης. Στην συνέχεια η εργασία επικεντρώθηκε στον τρόπο με τον οποίο μπορούν να εφαρμοστούν αυτοί οι αλγόριθμοι σε εκπαιδευτικά δεδομένα, τι εφαρμογές έχουμε στην εκπαίδευση, ενώ αναφερόμαστε και σε μια πληθώρα ερευνών που έχουν πραγματοποιηθεί πάνω στο συγκεκριμένο αντικείμενο. Στην συνέχεια διερευνήσαμε την εφαρμογή τεχνικών κατηγοριοποίησης στην πρόγνωση της επίδοσης μαθητών Δευτεροβάθμιας Εκπαίδευσης στα μαθήματα της Γεωγραφίας Α’ και Β’ Γυμνασίου. Συγκεκριμένα υλοποιήσαμε και θα αξιολογήσαμε έξι αλγορίθμους οι οποίοι ανήκουν στην ομάδα των αλγορίθμων κατηγοριοποίησης(Classification) και είναι αντιπροσωπευτικοί των σημαντικότερων τεχνικών κατηγοριοποίησης. Από την οικογένεια των ταξινομητών με χρήση δένδρων απόφασης (Decision Tree Classifiers) υλοποιήσαμε τον J48, από τους αλγορίθμους κανόνων ταξινόμησης (Rule-based Classification ) τον Ripper, από τους αλγόριθμους στατιστικής κατηγοριοποίησης τον Naïve Bayes, από την μέθοδο των Κ πλησιέστερων γειτόνων (KNN) τον 3-ΝΝ, από την κατηγορία των τεχνητών νευρωνικών δικτύων τον Back Propagation και τέλος από τις μηχανές διανυσμάτων υποστήριξης (Support Vector Machines SVM) τον SMO (Sequental Minimal Optimazation). Όλες οι παραπάνω υλοποιήσεις και αξιολογήσεις έγιναν με το ελεύθερο λογισμικού Weka το οποίο είναι υλοποιημένο σε Java και το οποίο προσφέρει μια πληθώρα αλγορίθμων μηχανικής μάθησης για να κάνουμε εξόρυξη γνώσης.
  • Thumbnail Image
    Item
    Βαθιά μάθηση στη βιοπληροφορική
    Λαμπράκης, Χρήστος; Lamprakis, Christos
    Τμήμα Μαθηματικών (ΜΔΕ)
    Η βαθιά μάθηση, η οποία είναι ιδιαίτερα τρομερή στο χειρισμό μεγάλων δεδομένων, έχει επιτύχει μεγάλη πρόοδο σε διάφορους τομείς, συμπεριλαμβανομένης της Βιοπληροφορικής. Με τις εξελίξεις της μεγάλης εποχής των δεδομένων στη βιολογία, είναι προβλέψιμο ότι η βαθιά εκμάθηση θα αποκτήσει ολοένα και μεγαλύτερη σημασία στον τομέα. Σ΄ αυτή την εργασία, εισάγουμε την έννοια της βαθιάς μάθησης και παραδείγματα των αντιπροσωπευτικών εφαρμογών της στη βιοπληροφορική, συγκεκριμένα στα πεδία της γονιδιωματικής και της μεταγραφωματικής. Αναλυτικότερα, στο Κεφάλαιο 1, παρέχουμε βασικές αρχές καθώς και αλγορίθμους της Μηχανικής Μάθησης. Συγκεκριμένα, επικεντρονώμαστε σε τρεις τύπους μάθησης με επίβλεψη, τη γραμμική και λογιστική παλινδρόμηση όπως και στον αλγόριθμο των κ-Κοντινότερων γειτόνων. Ο λόγος είναι οτι θα συγκριθούν με τις δύο μεθόδους βαθιάς μάθησης που θα παρουσιαστούν στο Κεφάλαιο 3 την D-GEX και DanQ όπου και θα αποδειχθεί μέσω των πειραματικών αποτελεσμάτων ότι υστερούν. Στο Κεφάλαιο 2, γίνεται η ανάλυση της Βαθιάς Μάθησης, αλλά και των Βαθιά Νευρωνικών Δικτύων. Επιπλέον, αναδεικνύονται οι δύο θεμελιώδεις αρχιτεκτονικές της Βαθιάς Μάθησης, τα Συνελικτικά και τα Αναδρομικά Νευρωνικά Δίκτυα. Ιδιαίτερο ενδιαφέρον αποτελεί το ”πάντρεμα”, αυτών των δικτύων καθότι παράγεται η DanQ. Συγκεκριμένα, θα περιγραφεί ο τρόπος χρήσης CNN και RNN για τη πρόβλεψη της λειτουργικότητας μη-κωδικοποιητικού DNA (ncDNA). Στη συνέχεια της εργασίας, στο Κεφάλαιο 3, περιγράφουμε σημαντικές έννοιες της Βιολογίας και αναλύονται σημαντικά πεδία της βιοπληροφορικής όπως η γονιδιωματική, η μεταγραφωματική και η ανάλυση δεδομένων γονιδιακής έκφρασης. Το προφίλ έκφρασης γονιδίων μεγάλης κλίμακας έχει χρησιμοποιηθεί ευρέως για τον χαρακτηρισμό των κυτταρικών καταστάσεων ως απόκριση σε διάφορες καταστάσεις ασθένειας. Παρουσιάζεται μια μέθοδος βαθιάς μάθησης (D-GEX) για την ανάλυση γονιδιακής έκφρασης των γονιδίων στόχων από την έκφραση των γονιδιών οροσήμων. Χρησιμοποιήθηκε το σύνολο δεδομένων, Gene Expression Omnibus, αποτελούμενο από 111.009 προφίλ έκφρασης, για την εκπαιδεύση του μοντέλου και τη συγκρίση της απόδοσής του με αλγορίθμους Μηχανικής Μάθησης. Όσον αφορά το μέσο απόλυτο σφάλμα κατά μέσο όρο σε όλα τα γονίδια, η βαθιά μάθηση ξεπερνά σημαντικά την Γραμμική Παλινδρόμηση με 15.33%. Μια συγκριτική ανάλυση βάσει γονιδίων δείχνει ότι η βαθιά μάθηση επιτυγχάνει χαμηλότερο σφάλμα από τη Γραμμική Παλινδρόμηση στο 99.97% των γονιδίων-στόχων. Τέλος, έγινε δοκιμή της απόδοσης του μοντέλου σε ένα ανεξάρτητο σύνολο δεδομένων GTEx, το οποίο αποτελείται από 2.921 προφίλ έκφρασης. Η βαθιά μάθηση εξακολουθεί να ξεπερνά τη Γραμμική Παλινδρόμηση με σχετική βελτίωση 6.57% και επιτυγχάνει χαμηλότερο σφάλμα στο 81.31% των γονιδίων-στόχων. Στο ευρύτερο πεδίο της γονιδιωματικής, η μοντελοποίηση των ιδιοτήτων και των λειτουργιών των αλληλουχιών DNA είναι ένα σημαντικό, αλλά δύσκολο έργο. Γίνεται ακόμα πιο περίπλοκο, στη περίπτωση του μη-κωδικοποιητικό DNA. Ένα ισχυρό μοντέλο πρόβλεψης για τη λειτουργία του μη κωδικοποιητικού DNA μπορεί να έχει τεράστιο όφελος τόσο για τη βασική επιστήμη όσο και για τη μεταγραφική έρευνα, επειδή πάνω από το 98% του ανθρώπινου γονιδιώματος είναι μη-κωδικοποιητικό. Για την αντιμετώπιση αυτής της ανάγκης, προτάθηκε το DanQ, ένα συνελικτικό και αναδρομικό νευρωνικό δίκτυο.
  • Thumbnail Image
    Item
    Ανάπτυξη βιβλιοθήκης λογισμικού για εφαρμογές μηχανικής μάθησης σε παράλληλα υπολογιστικά συστήματα
    Μπαμπούρης, Ανδρέας; Δερματάς, Ευάγγελος; Σγάρμπας, Κυριάκος; Bampouris, Andreas
    Τμήμα Ηλεκτρολ. Μηχαν. και Τεχνολ. Υπολογ. (ΔΕ)
    Αντικείμενο της παρούσας διπλωματικής εργασίας είναι η προγραμματιστική υλοποίηση βασικών τεχνικών μηχανικής μάθησης με τέτοιο τρόπο που να γίνεται εκμετάλλευση των αρχιτεκτονικών παράλληλης επεξεργασίας που συναντώνται στους σύγχρονους υπολογιστές. Έχουν υλοποιηθεί μοντέλα και μέθοδοι όπως αυτά της γραμμικής παλινδρόμησης, της λογιστικής παλινδρόμησης, των τεχνητών νευρωνικών δικτύων εμπρόσθιας τροφοδότησης, του απλού ταξινομητή Bayes, της εκμάθησης δέντρων αποφάσεων, και της ομαδοποίησης k-μέσων. Έγινε χρήση της γλώσσας προγραμματισμού C++ μαζί με τη βιβλιοθήκη γραμμικής άλγεβρας Eigen, ενώ για την παραλληλοποίηση των αλγορίθμων χρησιμοποιήθηκε το πρότυπο OpenMP. Στα πλαίσια της εργασίας έγιναν δοκιμές σε πραγματικά δεδομένα, και η προκύπτουσα βιβλιοθήκη λογισμικού μπορεί να χρησιμοποιηθεί για την ανάπτυξη πραγματικών εφαρμογών.
  • Thumbnail Image
    Item
    Αναγνώριση κινήσεων του χεριού μέσω επιφανειακών ηλεκτρομυϊκών σημάτων με τεχνικές deep learning
    Τσάγκας, Νικόλαος; Σκόδρας, Αθανάσιος; Σκόδρας, Αθανάσιος; Σγάρμπας, Κυριάκος; Tsagkas, Nikolaos
    Τμήμα Ηλεκτρολ. Μηχαν. και Τεχνολ. Υπολογ. (ΔΕ)
    Τα τελευταία χρόνια έχει αναπτυχθεί στην ερευνητική κοινότητα ένα αυξημένο ενδιαφέρον για την αναγνώριση κινήσεων του χεριού μέσω επιφανειακών ηλεκτρομυϊκών σημάτων, με τεχνικές Deep Learning. Σε αυτή τη διπλωματική εργασία παρουσιάζεται η διαδικασία σχεδίασης επίσης αρχιτεκτονικής συνελικτικού νευρωνικού δικτύου, με σκοπό την αναγνώριση κινήσεων του χεριού μέσω επιφανειακών ηλεκτρομυϊκών σημάτων. Για το σκοπό αυτό αξιοποιήθηκε η πολύ διαδεδομένη βάση δεδομένων Ninapro, η οποία περιέχει καταγραφές ηλεκτρομυϊκών σημάτων από 52 διαφορετικές κινήσεις του χεριού. Στη συνέχεια, θέλοντας να συνεισφέρουμε στην προσπάθεια συλλογής περισσότερων ηλεκτρομυϊκών σημάτων, το οποίο αποτελεί καθοριστικό παράγοντα για την απόδοση του Deep Learning, αναπτύξαμε τη δική επίσης βάση δεδομένων επιφανειακών ηλεκτρομυϊκών σημάτων, τη MyoUP. Για επίσης καταγραφές χρησιμοποιήθηκε η εύχρηστη συσκευή Myo Armband. Στο παρόν σύγγραμμα παρουσιάζεται όχι μόνο η διαδικασία ανάπτυξης επίσης βάσης επίσης αλλά και τα αποτελέσματα σύγκρισης επίσης ποιότητας των δεδομένων επίσης με επίσης καταγραφές του 5ου dataset επίσης βάσης δεδομένων Ninapro, καθώς και αυτό το dataset δημιουργήθηκε με τη βοήθεια του Myo Armband. Τέλος, παρουσιάζεται η ανάπτυξη επίσης λογισμικού αναγνώρισης κινήσεων του χεριού σε πραγματικό χρόνο. Στο λογισμικό αυτό αξιοποιήθηκε το νευρωνικό δίκτυο που σχεδιάστηκε στα πλαίσια επίσης διπλωματικής, το οποίο και εκπαιδεύτηκε με τα δεδομένα επίσης βάσης δεδομένων MyoUP. Η εκπαίδευση του νευρωνικού δικτύου έλαβε χώρα σε έναν απομακρυσμένο server μεγάλης υπολογιστικής ισχύος, ενώ ο απαραίτητος κώδικας γράφτηκε στη γλώσσα προγραμματισμού Python. Επίσης, η εφαρμογή αναγνώρισης των κινήσεων του χεριού σε πραγματικό χρόνο αναπτύχθηκε σε Python ενώ η επεξεργασία των σημάτων έγινε με το πρόγραμμα MATLAB.
  • Thumbnail Image
    Item
    Biologically plausible neural architectures
    Ντάνης, Αδαμάντιος; Ntanis, Adamantios
    Τμήμα Ηλεκτρολ. Μηχαν. και Τεχνολ. Υπολογ. (ΔΕ)
    This thesis begins with the most important historical milestones for Neural Networks. This research area has a long history, which is usually set to have begun with McCulloch and Pitts and their neuron model. Other important historical milestones include the work of Donald Hebb from which Hebbian Learning originated, as well as the research of Frank Rosenblatt on Perceptrons. Afterwards, this work introduces Spiking Neural Networks. More specifically, among the different kinds of neural networks lies the Spiking Neural Network, which is considered as the 3rd generation right after Perceptrons and networks of generalized McCulloch and Pitts neurons employing an activation function with a continuous set of possible output values. Spiking neurons compute in a fundamentally different way than their "predecessors", basing their operation in neurophysiological principles. Next, the thesis continues by providing the necessary theoretical foundation for the understanding and construction of Spiking Neural Networks. Specifically, in order to build these structures, we first have to study the function of the basic elements of biological neural systems, namely the biological neurons and synapses. The neurons are the fundamental building blocks of neural systems and their information processing units while the synapses are the means of communication between the neurons. Important concepts that we come across in studying neurons and synapses include action potentials, spike trains, membrane potential and firing rates. Utilizing the aforementioned knowledge, this work moves on to building neuron models, each one having a varying degree of biological faithfulness, and different use capabilities. These are the models that can be used as the basic building blocks in the construction of larger neural structures. Three important examples of such models, and specifically the ones presented in this work, are the Spike Response Model, the Leaky Integrate-And-Fire Model and the Hodgkin-Huxley Model. After describing and building the necessary models to explain the neural functions we are interested in, we now have in our toolbox all we need to carry on with the building Spiking Neural Networks. Hence, we proceed with this thesis, by connecting the neuron models, form different architectures and eventually deploying them in simulations, thus exploring their behaviour. The Leaky Integrate-And-Fire model is the one used in the simulations and also the most commonly used in general, enabling us to easily implement and visualize a plethora of meaningful properties of neural systems. Concluding this work, we explore in detail the neural encoding and decoding processes by building a pipeline that converts an analog signal into spike trains and then reconstructs it from those spike trains. The encoding process uses a specific neural architecture as an encoder while the decoding procedure using signal processing techniques reconstructs the initial signal.
  • Thumbnail Image
    Item
    Χρήση αλγορίθμων μηχανικής μάθησης για την ταυτοποίηση κοινών σημείων ενδιαφέροντος σε ετερογενή σύνολα δεδομένων από μέσα κοινωνικής δικτύωσης
    (2014-04-02) Καλαβρουζιώτης, Βασίλειος; Γαροφαλάκης, Ιωάννης; Γαροφαλάκης, Ιωάννης; Τσακαλίδης, Αθανάσιος; Χατζηλυγερούδης, Ιωάννης; Kalavrouziotis, Vasilios
    Τμήμα Μηχανικών Η/Υ και Πληροφορικής (ΜΔΕ)
    Στην εργασία αυτή ασχολούμαστε με την αξιοποίηση των δεδομένων από διαφορετικά κοινωνικά δίκτυα (πιο συγκεκριμένα από Foursquare και Facebook) με σκοπό να ταυτοποιήσουμε τις ίδιες τοποθεσίες (ή αλλιώς σημεία ενδιαφέροντος) που έχουν εισαχθεί σε αυτά τα δίκτυα. Το πρόβλημα της ταυτοποίησης είναι σημαντικό να λυθεί διότι έτσι θα μπορούσε να αποκτηθεί μια καλύτερη εικόνα για τις αλληλεπιδράσεις των χρηστών με το φυσικό περιβάλλον με τη χρήση των μέσων κοινωνικής δικτύωσης (social data). Αυτό σημαίνει ταυτόχρονα και καλύτερη ανάλυση και αξιοποίηση αυτών δεδομένων, αφού θα έχουμε αναγνωρίσει μεγάλο μέρος των κοινών σημείων ενδιαφέροντος από ετερογενή σύνολα δεδομένων από τα μέσα κοινωνικής δικτύωσης. Μια λύση στο πρόβλημα είναι η χρήση των αλγορίθμων μηχανικής μάθησης, που θα αποφασίζουν αν ένα ζεύγος σημείων αντιπροσωπεύει το ίδιο σημείο ενδιαφέροντος.
  • Thumbnail Image
    Item
    Ανάλυση κειμένου σε κοινωνικά δίκτυα και αναγνώριση συναισθηματικού περιεχομένου
    Δούκα, Ελισάβετ-Άννα; Douka, Elisavet-Anna
    Τμήμα Μηχανικών Η/Υ και Πληροφορικής (ΔΕ)
    Η αναγνώριση συναισθηματικού περιεχομένου της Φυσικής Γλώσσας μπορεί να βελτιώσει κατά πολύ την επικοινωνία ανθρώπου και υπολογιστή με ένα υπολογιστικό σύστημα δίνοντας του την δυνατότητα να αναγνωρίσει και να μιμηθεί συναισθηματικές εκφράσεις. Ο τομέας της αναγνώρισης συναισθήματος κατέχει σημαντική θέση στις εφαρμογές της τεχνητής νοημοσύνης. Η ραγδαία ανάπτυξη των μέσων κοινωνικής δικτύωσης και η δυνατότητα των χρηστών μέσω αυτών να εκφράζουν ελεύθερα την γνώμη τους πάνω σε όλα τα θέματα της επικαιρότητας, αύξησε την ανάγκη για τη μελέτη και την καταγραφή της χρήσης τους. Έτσι, στα πλαίσια της παρούσας διπλωματικής εργασίας θα αναπτυχθεί μηχανισμός αναγνώρισης της συναισθηματικής πληροφορίας που μεταφέρεται σε προτάσεις Φυσικής Γλώσσας. Στο αρχικό στάδιο της έρευνας, γίνεται αναφορά σε πολλές state of the art τεχνικές που υπάρχουν ήδη στον συγκεκριμένο τομέα. Ύστερα, γίνεται η κατάλληλη προ-επεξεργασία και μετατροπή των δεδομένων, με γνωστές τεχνικές, για την εξαγωγή των κατάλληλων πληροφοριών και λέξεων-κλειδιών που φέρουν συναισθηματική πληροφορία. Ο κύριος στόχος της παρούσας εργασίας είναι η υλοποίηση του προ-εκπαιδευμένου μετασχηματιστή BERT, καθώς και η μελέτη της απόδοσης του, όσον αφορά τον προσδιορισμό και την ανίχνευση συναισθημάτων στα σχόλια χρηστών στα κοινωνικά δίκτυα. Αναλύεται το γενικό πλαίσιο του BERT, περιγράφεται αναλυτικά η διαδικασία υλοποίησης του και οι ειδικές μετατροπές που χρειάστηκαν να γίνουν για την λύση του συγκεκριμένου προβλήματος. Στη συνέχεια, υλοποιήθηκαν και δοκιμάστηκαν τόσο κλασικοί αλγόριθμοι ταξινόμησης όσο και διάφορες αρχιτεκτονικές νευρωνικών δικτύων, για να μελετηθεί η απόδοση του BERT σε σχέση με τα άλλα μοντέλα. Έπειτα, διεξάχθηκαν πειράματα με την χρήση των μοντέλων αυτών σε ένα αξιοσημείωτο πλήθος συνόλων δεδομένων. Στο τέλος της έρευνας αξιολογήθηκαν όλες οι προσεγγίσεις, συγκρίθηκαν τα αποτελέσματα τους και έγιναν οι ανάλογες παρατηρήσεις. Τελικός στόχος είναι η μελέτη της απόδοσης και της συμπεριφοράς του μοντέλου BERT, συγκρινόμενο με τα υπόλοιπα μοντέλα. Τα αποτελέσματα της έρευνας έδειξαν ότι παρόλο που το BERT μπορεί να πετύχει καλύτερη απόδοση από τους κλασικούς αλγορίθμους και αρκετά νευρωνικά δίκτυα, έχει επιπλέον περιθώρια βελτίωσης και μελέτης.