Σχεδιασμός και ανάπτυξη παράλληλου αλγόριθμου συσταδοποίησης στο Apache Spark

datacite.contributor.SupervisorΧρήστος Μακρής
datacite.rightshttp://purl.org/coar/access_right/c_abf2el
dc.contributor.authorΚεχαγιάς, Παναγιώτης
dc.contributor.otherKechagias, Panagiotis
dc.date.accessioned2020-08-20T19:20:14Z
dc.date.available2020-08-20T19:20:14Z
dc.date.copyright2020-07-27
dc.degreegraduateThesisel
dc.description.abstractΗ συσταδοποίηση είναι μια κοινή τεχνική για την ανάλυση δεδομένων, η οποία χρησιμοποιείται σε πολλούς τομείς, όπως είναι η μηχανική μάθηση, η εξόρυξη δεδομένων, η αναγνώριση προτύπων, η ανάλυση εικόνας και η βιοπληροφορική. Η συσταδοποίηση είναι η διαδικασία ομαδοποίησης παρόμοιων αντικειμένων σε διαφορετικές ομάδες. Ένα από τα μεγαλύτερα προβλήματα σήμερα είναι ο αυξανόμενος αριθμός δεδομένων που πρέπει να αναλύσουμε. Με αυτήν τη διπλωματική εργασία, επιχειρείται να υλοποιηθεί ο DBSCAN, ένας γνωστός αλγόριθμος συσταδοποίησης, στην πλατφόρμα Apache Spark ώστε να είναι δυνατή η εκτέλεσή του σε ένα κατανεμημένο σύστημα με σκοπό να υπερκεραστούν τα προβλήματα των υπαρχόντων υλοποιήσεων όταν αυτές εφαρμόζονται σε δεδομένα μεγάλου όγκου. Αναλύονται οι αρχές λειτουργίας του DBSCAN και οι τροποποιήσεις που έγιναν καθώς και οι λόγους για τους οποίους ήταν απαραίτητες. Τέλος, εκτελείται μια σειρά πειραμάτων για την αξιολόγηση της απόδοσης του σε σύγκριση με άλλους αλγορίθμους συσταδοποίησης που παρέχονται από το Apache Spark όπως o GMM και ο K-means. Αναφέρονται επίσης οι περιορισμοί της προτεινόμενης προσέγγισής.el
dc.description.translatedabstractClustering is a common technique for data analysis, which is used in many fields, including machine learning, data mining, pattern recognition, image analysis and bioinformatics. Clustering is the process of grouping similar objects into different groups. One of the biggest problems nowadays is the increasing volume of data which must be analyzed. This thesis addresses the problem by implementing DBSCAN, a well-known clustering algorithm, using the Apache Spark framework in order to allow its execution on a computer cluster. This approach aims to overcome the issues state of the art implementations face when they deal with high volumes of data. The basic ideas of how DBSCAN works are presented and the proposed modifications are thoroughly explained along with the reasons they were necessary. Furthermore, a series of experiments are executed to evaluate the performance of the algorithm in comparison to other clustering algorithms which are provided by Spark such as GMM and K-means. Limitations of our approach are also discussedel
dc.identifier.urihttp://hdl.handle.net/10889/13781
dc.language.isogrel
dc.subjectΕξόρυξη δεδομένωνel
dc.subjectΣυσταδοποίησηel
dc.subject.alternativeDBSCANel
dc.subject.alternativeApache-sparkel
dc.titleΣχεδιασμός και ανάπτυξη παράλληλου αλγόριθμου συσταδοποίησης στο Apache Sparkel
dc.title.alternativeDesign and development of a parallel clustering algorithm on top of Apache Sparkel
oaire.licenseConditionnullel

Files

Original bundle
Now showing 1 - 1 of 1
Loading...
Thumbnail Image
Name:
thesis.pdf
Size:
3.79 MB
Format:
Adobe Portable Document Format
License bundle
Now showing 1 - 1 of 1
No Thumbnail Available
Name:
license.txt
Size:
4.53 KB
Format:
Item-specific license agreed upon to submission
Description: