Συμπερασμός φυσικής γλώσσας με χρήση βαθιάς μάθησης και γραφημάτων γνώσης
Loading...
Date
2025-06-18
Authors
Γιανουλάρι, Έφη
Journal Title
Journal ISSN
Volume Title
Publisher
Abstract
Παρότι για τον άνθρωπο η ικανότητα κατανόησης και εξαγωγής λογικών σχέσεων από τη φυσική γλώσσα είναι κάτι έμφυτο,για τα υπολογιστικά συστήματα παραμένει ένα από τα πιο απαιτητικά και ανοιχτά προβλήματα της Τεχνητής Νοημοσύνης.Ο γλωσσικός συμπερασμός απαιτεί όχι μόνο κατανόηση των λέξεων και της σύνταξης,αλλά και αξιοποίηση ευρύτερης γνώσης του κόσμου μια ικανότητα που τα σύγχρονα γλωσσικά μοντέλα προσπαθούν ακόμα να κατακτήσουν. Η παρούσα εργασία διερευνά κατά πόσο η ενσωμάτωση εξωτερικής γνώσης,με τη μορφή τριπλετών από γραφήματα γνώσης,μπορεί να ενισχύσει την απόδοση ενός προεκπαιδευμένου γλωσσικού μοντέλου στον τομέα του Συμπερασμού Φυσικής Γλώσσας.Πέντε σύνολα δεδομένων (RTE,QNLI, SICK,SNLIκαι DNLI) εμπλουτίστηκαν με πληροφορίες προερχόμενες από τα γραφήματα AristoTuple και WordNet,μέσω ενός μηχανισμού επιλογής και ενσωμάτωσης σχετικής γνώσης,βασισμένου σε ένα Sentence Transformer μοντέλο και σε μια μετρική υπολογισμού ομοιότητας μεταξύ προτάσεων και τριπλετών. Η αξιολόγηση πραγματοποιήθηκε με το μοντέλο BERT-base-uncased,καταγράφοντας βελτιώσεις της τάξης του 0.1% έως και 2.3% στην ακρίβεια,ανάλογα με το σύνολο δεδομένων.Τα αποτελέσματα αποκάλυψαν ότι η επίδραση της γνώσης δεν είναι παντού θετική ούτε καθολική: εξαρτάται από τη συνάφεια της πληροφορίας,την πηγή της και τη φύση του κάθε συνόλου.Ειδικά στο DNLI παρατηρήθηκε μείωση της απόδοσης,πιθανότατα λόγω του περιεχομένου και της δομής του,που δεν ευνόησαν την ενσωμάτωση εξωτερικής γνώσης. Τα ευρήματα καταδεικνύουν ότι η χρήση εξωτερικής γνώσης αποτελεί μια πολλά υποσχόμενη στρατηγική,η οποία όταν εφαρμόζεται στοχευμένα,μπορεί να ενισχύσει σημαντικά την κατανόηση της φυσικής γλώσσας από τα υπολογιστικά συστήματα,φέρνοντάς τα ένα βήμα πιο κοντά στις ανθρώπινες γνωστικές ικανότητες.
Description
Keywords
Τεχνητή νοημοσύνη, Βαθιά μάθηση, Νευρωνικά δίκτυα, Συμπερασμός φυσικής γλώσσας, Προεκπαιδευμένο γλωσσικό μοντέλο, Γραφήματα γνώσης, Μεταφορά μάθησης