Ανάπτυξη συστήματος αξιολόγησης αλγορίθμων μηχανικής μάθησης : μέθοδοι ανάθεσης ευθυνών και επεξηγησιμότητας
| datacite.rights | http://purl.org/coar/access_right/c_f1cf | el |
| dc.contributor.author | Βαρβαρίγος, Γεώργιος | |
| dc.contributor.other | Varvarigos, Georgios | |
| dc.date.accessioned | 2021-06-25T07:54:06Z | |
| dc.date.available | 2021-06-25T07:54:06Z | |
| dc.date.copyright | 2021-06-22 | |
| dc.degree | graduateThesis | el |
| dc.description.abstract | Η παρούσα διπλωματική εργασία έχει ως αντικείμενο τον σχεδιασμό ενός εργαλείου για μελλοντικούς υπεύθυνους ανάπτυξης μοντέλων μηχανικής μάθησης το οποίο θα λειτουργεί συμπληρωματικά με την διαδικασία ανάπτυξης ενός μοντέλου τεχνητής νοημοσύνης και θα παρέχει στον χρήστη σημαντικές πληροφορίες, εστιάζοντας κυρίως στον τομέα της Ευθύνης και της Επεξηγηματικότητας του συστήματος. Βασικός στόχος είναι να δημιουργήσουμε μια πειραματική αλλά διαδραστική και φιλική προς το χρήστη πλατφόρμα, η οποία θα λειτουργεί για οποιοδήποτε μοντέλο και θα ελέγχει εάν το υπό ανάπτυξη αλγοριθμικό σύστημα πληροί τις κατάλληλες προϋποθέσεις, όσον αφορά το πόσο ‘υπεύθυνο’ είναι με βάση τα κοινωνικά στάνταρ καθώς και το πόσο ‘εξηγήσιμο’ είναι, δηλαδή εάν τα αποτελέσματα του μπορούν τα ερμηνευθούν από ανθρώπους. Για την επίτευξη των παραπάνω, δημιουργήσαμε πρώτα ένα ερωτηματολόγιο 68 ερωτήσεων το οποίο καθορίζει την Ευθύνη ενός αλγοριθμικού συστήματος από δυο διαφορετικές οπτικές γωνίες· από αυτή του Οργανισμού και από αυτή του Αλγορίθμου. Επιπρόσθετα αναπτύχθηκε μια φόρμα στην οποία ο χρήστης μπορεί να μεταφορτώσει το δικό του μοντέλο μηχανικής μαθήσεως, το οποίο στη συνέχεια αναλύεται με τη χρήση του SHAP (Shapley Additive exPlanations) ώστε να εξηγηθεί το πώς έφτασε σε συγκεκριμένη πρόβλεψη. Αυτό ολοκληρώνει το κομμάτι της Επεξηγηματικότητας, δείχνοντας στο χρήστη πώς μπορεί να εφαρμόζει παρόμοιες τεχνικές σε οποιοδήποτε αλγοριθμικό σύστημα. Η αξία των πλατφορμών όπως αυτή που παρουσιάζουμε στην διπλωματική εργασία είναι ότι λειτουργούν ώς πίνακες ελέγχου για μοντέλα μηχανικής μάθησης που βρίσκονται στην διαδικασία ανάπτυξης αφού διασφαλίζουν πως χαρακτηρίζονται απο επαρκή ευθύνη και επεξηγηματικότητα. | el |
| dc.description.translatedabstract | The current diploma thesis addresses the problem of designing an experimental tool for future machine learning developers which will be used in tandem with the developing process of the algorithmic model and will provide precious insight on machine learning Accountability and Explainability. The goal is to create a model agnostic, interactive and user-friendly platform with two main uses. The first one is to test how accountable the model is based on the current social standards. The second one focuses on how explainable the model is, namely how easy is for a human to understand the model’s outcome. To accomplish the aforementioned, we created a set of 68 questions whose goal is to define an algorithmic system’s Accountability from an Organizational and Algorithmic perspective. In addition, we developed a form in which the user can upload their own machine learning model, which is analyzed with the use of SHAP (Shapley Additive exPlanations) in order to explain how it reached a certain outcome. That concludes the Explainability part, showing to the user how he can implement such techniques into any algorithmic system. The value of platforms like the one we present in the diploma thesis is that they function as check-lists for machine learning models that are in the process of development, as they ensure that they are characterized by sufficient accountability and explainability. | el |
| dc.identifier.uri | http://hdl.handle.net/10889/14866 | |
| dc.language.iso | gr | el |
| dc.subject | Eυθύνη | el |
| dc.subject | Eπεξηγηματικότητα | el |
| dc.subject | Μηχανική μάθηση | el |
| dc.subject.alternative | Αccountability | el |
| dc.subject.alternative | Εxplainability | el |
| dc.subject.alternative | Machine learning | el |
| dc.title | Ανάπτυξη συστήματος αξιολόγησης αλγορίθμων μηχανικής μάθησης : μέθοδοι ανάθεσης ευθυνών και επεξηγησιμότητας | el |
| dc.title.alternative | Research and development of an evaluation system for machine learning explainability and accountability methods | el |
| oaire.licenseCondition | null | el |