Σύστημα μηχανικής μάθησης για την αυτόματη αναγνώριση χειρόγραφων ψηφίων βασισμένο σε υψηλής απόδοσης RBM hardware accelerator
| dc.contributor.advisor | Αντωνακόπουλος, Θεόδωρος | |
| dc.contributor.author | Τουλγαρίδης, Νικόλαος | |
| dc.contributor.committee | Αντωνακόπουλος, Θεόδωρος | |
| dc.contributor.committee | Κουφοπαύλου, Οδυσσέας | |
| dc.contributor.committee | Φακωτάκης, Νικόλαος | |
| dc.contributor.other | Toulgaridis, Nikolaos | |
| dc.date.accessioned | 2018-10-11T07:03:02Z | |
| dc.date.available | 2018-10-11T07:03:02Z | |
| dc.date.copyright | 2018-02-26 | |
| dc.degree | Μεταπτυχιακή Εργασία | el |
| dc.description.abstract | Η ταχεία αύξηση του μεγέθους των δεδομένων και της προσβασιμότητας τα τελευταία χρόνια έχει προκαλέσει αλλαγή στη φιλοσοφία σχεδιασμού συστημάτων με κατεύθυνση τη χρήση αλγορίθμων τεχνητής νοημοσύνης. Τα συστήματα αυτά έχουν την ικανότητα να μαθαίνουν και να επεξεργάζονται τεράστιες ποσότητες δεδομένων ανοίγοντας νέους ορίζοντες σε σημαντικούς τομείς όπως η υπολογιστική όραση, η αναγνώριση προτύπων, η επεξεργασία φυσικής γλώσσας κ.λ.π. Η πιο δημοφιλής κατηγορία τεχνικών που χρησιμοποιούν τεχνητά νευρωνικά δίκτυα ονομάζεται Deep Learning Networks και έχει μεγάλο εύρος εφαρμογής τόσο στην καθημερινότητα όσο και στη βιομηχανία. Ωστόσο, αυτά τα μοντέλα έχουν πολύ υψηλές απαιτήσεις σε αποθήκευση δεδομένων και υπολογιστική ισχύ, ιδιαίτερα κατά τη διαδικασία της εκπαίδευσης (training). Λύση στο σύνθετο αυτό πρόβλημα των πόρων προσπαθεί να δοθεί με τη χρήση συστημάτων πολυεπεξεργασίας (Multiprocessors, GPUs, FPGAs). Ευρέως διαδομένη είναι η ανάπτυξη παράλληλων δομών από Graphics Processing Units (GPU), τα οποία διαμορφώνονται σε clusters. Σπουδαία αποτελέσματα με πληθώρα εφαρμογών στον τομέα της Μηχανικής Μάθησης προσφέρει η ανάπτυξη συστημάτων που περιλαμβάνουν εξειδικευμένο υλικό με τη χρήση FPGAs. Τρέχουσες τάσεις σε εργαλεία σχεδιασμού για FPGAs, όπως το High Level Synthesis, έχουν καταστήσει τον σχεδιασμό dedicated hardware accelerators πιο συμβατό με πρακτικές λογισμικού υψηλού επιπέδου (Software Engineering). Μέσω των τεχνικών αυτών μπορεί να επιτευχθεί η αποδοτικότερη "μεταφορά" των αλγορίθμων μηχανικής μάθησης στο επίπεδο του υλικού, τόσο από τη σκοπιά των απαιτούμενων πόρων υλοποίησης, όσο και από τη σκοπιά της βελτίωσης του ρυθμού επεξεργασίας. Η αναγνώριση ψηφίων ή γραμμάτων είναι ένα κλασσικό παράδειγμα εφαρμογής των αλγορίθμων μηχανικής μάθησης και ειδικότερα των τεχνητών νευρωνικών δικτύων. Συγκεκριμένα η παρούσα διπλωματική εργασία αφορά στην υλοποίηση των νευρωνικών δικτύων τύπου Restricted Boltzmann Machines για την επιτάχυνση της διαδικασίας αναγνώρισης χειρόγραφων ψηφίων, με τη χρήση εξειδικευμένου υλικού και τελευταίας γενεάς FPGA - Xilinx Virtex 7. | el |
| dc.description.translatedabstract | The rapid growth in data size and accessibility in recent years has as a result a new approach on system design philosophy with the use of algorithms of artificial intelligence. These systems have the ability to learn and process vast amounts of data, which opens up new horizons in essential areas such as computational vision, pattern recognition, natural language processing, etc. The most popular class of techniques that use artificial neural networks is called Deep Learning Networks and has a wide range of applications in everyday life as well as in industry. However, these models have very high demands on data storage and computing power, especially during the training process. A solution to this complex design problem is attempted through the use of multiprocessing systems (Multiprocessors, GPUs, FPGAs). A widespread idea is the development of parallel architecture of Graphics Processing Units (GPU), which are formed in clusters. Excellent results with a variety of applications in the field of Machine Learning are also provided by the development of systems that include specialized hardware using FPGAs. Current trends in design tools for FPGAs, such as High Level Synthesis, have made hardware accelerators more compliant with high-level software practices (Software Engineering). Through these techniques, it is possible to achieve more efficient porting of Machine Learning algorithms at the hardware level, both regarding the required implementation resources, but also the acceleration of the processing rate. Recognizing digits or letters is a classic application example of the artificial neural network algorithms. Specifically, this Master Thesis deals with the implementation of Restricted Boltzmann Machines to accelerate the handwritten digits recognition process, using dedicated hardware and the latest generation FPGA - Xilinx Virtex 7. | el |
| dc.identifier.uri | http://hdl.handle.net/10889/11647 | |
| dc.language.iso | gr | el |
| dc.rights | 0 | el |
| dc.subject | Αναγνώριση χειρόγραφων ψηφίων | el |
| dc.subject | Τεχνητή νοημοσύνη | el |
| dc.subject | Μηχανική μάθηση | el |
| dc.subject | Τεχνητά νευρωνικά δίκτυα | el |
| dc.subject | Παράλληλη επεξεργασία | el |
| dc.subject | Εξειδικευμένο υλικό | el |
| dc.subject.alternative | Artificial neural networks | el |
| dc.subject.alternative | Machine learning | el |
| dc.subject.alternative | Pattern recognition | el |
| dc.subject.alternative | Handwritten digits recognition | el |
| dc.subject.alternative | Hardware accelerators | el |
| dc.subject.alternative | Cloud services | el |
| dc.subject.alternative | Restricted Boltzmann machines | el |
| dc.subject.ddc | 006.31 | el |
| dc.title | Σύστημα μηχανικής μάθησης για την αυτόματη αναγνώριση χειρόγραφων ψηφίων βασισμένο σε υψηλής απόδοσης RBM hardware accelerator | el |
| dc.title.alternative | Machine learning system for the case of automatic handwritten digits recognition based on high-performance RBM hardware accelerator | el |
| dc.type | Thesis | el |