Καπλάνογλου Παντελής (Υποψήφιος Διδάκτορας)

Τίτλος διατριβής: Ερμηνεύσιμη Μηχανική Μάθηση για Ευφυή Συστήματα

Επιβλέπων: Διαμαντάρας Κωνσταντίνος

Μέλη Συμβουλευτικής Επιτροπής:

Γεώργιος Α. Παπακώστας, Καθηγητής ΔΙΠΑΕ
Ιγνάτιος Δεληγιάννης, Καθηγητής ΔΙΠΑΕ

Περίληψη:

Ένα κρίσιμο ζήτημα για την ευρεία εφαρμογή μοντέλων Μηχανικών Μάθησης (ΜΜ) αποτελεί η δυνατότητα ερμηνείας της λειτουργίας τους και των αιτιών που οδηγούν τις αποφάσεις τους. Η νέα περιοχή έρευνας της Ερμηνεύσιμης Μηχανικής Μάθησης παρέχει μεθόδους που παράγουν τεκμήρια της συμπεριφοράς του συστήματος με τρόπους που είναι κατανοητοί από τους ανθρώπους. Με την παροχή οπτικοποιήσεων, μετρικών και μαθηματικών εργαλείων επεκτείνεται η κατανόηση της γενικής λειτουργίας ενός μοντέλου, η οποία στηρίζεται στον τυπικό ορισμό της μεθόδου, σε αναλυτική ερμηνεία των εσωτερικών χαρακτηριστικών αυτής. Τα μη-επεξηγήσιμα Βαθιά Νευρωνικά Δίκτυα εμφανίζουν αυξημένη ακρίβεια σε σχέση με τα επεξηγήσιμα μοντέλα, αλλά με το μειονέκτημα ότι λειτουργούν ως μαύρα-κουτιά στα οποία δίδεται η είσοδος και παράγεται η έξοδος. Οι σκέψεις για διαδεδομένη χρήση τους συνοδεύονται με ερωτήματα σχετικά με την αξιοπιστία, αμεροληψία και ανησυχίες περί ηθικής, φυσικής ασφάλειας. Επιπλέον υπάρχει έλλειψη εμπιστοσύνης προς αυτά ιδιαίτερα στους ιατρικούς-φαρμακευτικούς και βιοατρικούς τομείς. Οι πιθανές κοινωνικές επιπτώσεις οδήγησαν τους νομοθέτες να εισάγουν το «δικαίωμα στην εξήγηση», μια μέριμνα που επηρεάζει την εφαρμοσιμότητα των επικρατέστερων σύγχρονων μοντέλων σε προϊόντα. Παράλληλα για την υλοποίηση καινοτόμων ευφυών συστημάτων, οι πειραματικές υλοποιήσεις των μεθόδων MM χρειάζεται να εξελιχθούν σε αρχιτεκτονικές λογισμικού, λαμβάνοντας υπόψιν παραμέτρους με τις οποίες ασχολείται ο νέος τομέας που ονομάζεται Μηχανική της Μηχανικής Μάθησης (Machine Learning Engineering). Η έρευνα στα πλαίσια της διδακτορικής διατριβής επικεντρώνεται στις μεθόδους ερμηνείας για υπαρκτά μοντέλα και προσπαθεί να εισάγει νέα ερμηνεύσιμα μοντέλα, ικανά να παράγουν συνεπή προγνωστικά αποτελέσματα, τα οποία οι άνθρωποι κατανοούν και αναμένουν. Δευτερευόντως θα προκύψουν νέα πρότυπα για την ανάπτυξη λογισμικού MM που παρέχουν ερμηνείες.