Search Results

Now showing 1 - 2 of 2
  • Thumbnail Image
    Item
    Spectral conjugate gradient methods with sufficient descent property for neural network training
    (2010-04-08T08:12:20Z) Λιβιέρης, Ιωάννης; Πιντέλας, Παναγιώτης; Livieris, Ioannis; Pintelas, Panagiotis
    Τμήμα Μαθηματικών (Τεχνικές Αναφορές)
    Σε αυτήν την εργασία, αξιολογούμε την απόδοση μιας νέας κλάσης μεθόδων συζυγών κλίσεων για την εκπαίδευση νευρικών δικτύων. Οι προτεινόμενες μέθοδοι διατηρούν τα πλεονεκτήματα των κλασσικών μεθόδων συζυγών κλίσεων και εκμεταλλεύονται την απουσία των συχνά αναπαποτελεσματικών επανεκκινήσεων. Τα ενθαρρυντικά αριθμητικά αποτελέσματα επαληθεύουν ότι οι προτεινόμενες μέθοδοι παρέχουν γρηγορότερη, σταθερότερη και πιο αξιόπιστη σύγκλιση.
  • Thumbnail Image
    Item
    Classification of Large Biomedical Data using ANNs based on BFGS method
    (2010-04-08T08:13:39Z) Λιβιέρης, Ιωάννης; Σωτηρόπουλος, Δημήτριος; Πιντέλας, Παναγιώτης; Livieris, Ioannis; Sotiropoulos, Dimitris; Pintelas, Panagiotis
    Τμήμα Μαθηματικών (Τεχνικές Αναφορές)
    Τα τεχνητά νευρωνικά δίκτυα έχουν ευρέως χρησιμοποιηθεί για την εξόρυξη γνώσης από βιοιατρικά δεδομενά και συνιστούν ένα σημαντικό ρόλο στην ανάλυση και στην εξερεύνηση βιο-δεδομένων. Σε αυτή την εργασία, προτείνουμε μια νέα μέθοδο για την εκπαίδευση νευρωνικών δικτύων, ο οποίος βασίζεται στην ανάλυση του ιδιοσυστήματος των BFGS χωρίς μνήμη πινάκων. Η προτεινόμενη μέθοδος διατηρεί τις ισχυρές ιδιότητες σύγκλισης, οι οποίες παρέχονται από την κατεύθυνση quasi-Newton ενώ παράλληλη εκμεταλλεύεται τη μη-κυρτότητα της συνάρτησης σφάλματος με τον υπολογισμό της κατεύθυνσης της αρνητικής κυρτότητας αποφεύγοντας την αποθήκευση και την παραγοντοποίηση πίνακα. Επιπλέον για τη βελτίωση της ικανότητας γενίκευσης των εκπαιδευόμενων δικτύων, ερευνούμε την επίδραση της υιοθέτησης τεχνικών μείωσης της διάστασης του συνόλου δεδομένων ως ένα βήμα προεπεξεργασίας.