Ανάπτυξη συστήματος αξιολόγησης αλγορίθμων μηχανικής μάθησης : μέθοδοι ανάθεσης ευθυνών και επεξηγησιμότητας
Loading...
Date
Authors
Βαρβαρίγος, Γεώργιος
Journal Title
Journal ISSN
Volume Title
Publisher
Abstract
Η παρούσα διπλωματική εργασία έχει ως αντικείμενο τον σχεδιασμό ενός εργαλείου για μελλοντικούς υπεύθυνους ανάπτυξης μοντέλων μηχανικής μάθησης το οποίο θα λειτουργεί συμπληρωματικά με την διαδικασία ανάπτυξης ενός μοντέλου τεχνητής νοημοσύνης και θα παρέχει στον χρήστη σημαντικές πληροφορίες, εστιάζοντας κυρίως στον τομέα της Ευθύνης και της Επεξηγηματικότητας του συστήματος.
Βασικός στόχος είναι να δημιουργήσουμε μια πειραματική αλλά διαδραστική και
φιλική προς το χρήστη πλατφόρμα, η οποία θα λειτουργεί για οποιοδήποτε μοντέλο και θα ελέγχει εάν το υπό ανάπτυξη αλγοριθμικό σύστημα πληροί τις
κατάλληλες προϋποθέσεις, όσον αφορά το πόσο ‘υπεύθυνο’ είναι με βάση τα κοινωνικά στάνταρ καθώς και το πόσο ‘εξηγήσιμο’ είναι, δηλαδή εάν τα αποτελέσματα του μπορούν τα ερμηνευθούν από ανθρώπους.
Για την επίτευξη των παραπάνω, δημιουργήσαμε πρώτα ένα ερωτηματολόγιο 68
ερωτήσεων το οποίο καθορίζει την Ευθύνη ενός αλγοριθμικού συστήματος από δυο διαφορετικές οπτικές γωνίες· από αυτή του Οργανισμού και από αυτή του Αλγορίθμου.
Επιπρόσθετα αναπτύχθηκε μια φόρμα στην οποία ο χρήστης μπορεί να μεταφορτώσει το δικό του μοντέλο μηχανικής μαθήσεως, το οποίο στη συνέχεια αναλύεται με τη χρήση του SHAP (Shapley Additive exPlanations) ώστε να εξηγηθεί το πώς έφτασε σε συγκεκριμένη πρόβλεψη. Αυτό ολοκληρώνει το κομμάτι της Επεξηγηματικότητας, δείχνοντας στο χρήστη πώς μπορεί να εφαρμόζει παρόμοιες τεχνικές σε οποιοδήποτε αλγοριθμικό σύστημα.
Η αξία των πλατφορμών όπως αυτή που παρουσιάζουμε στην διπλωματική εργασία είναι ότι λειτουργούν ώς πίνακες ελέγχου για μοντέλα μηχανικής μάθησης που βρίσκονται στην διαδικασία ανάπτυξης αφού διασφαλίζουν πως χαρακτηρίζονται απο επαρκή ευθύνη και επεξηγηματικότητα.
Description
Keywords
Eυθύνη, Eπεξηγηματικότητα, Μηχανική μάθηση