Spectral conjugate gradient methods with sufficient descent property for neural network training
Spectral conjugate gradient methods with sufficient descent property for neural network training
Date
2010-04-08T08:12:20Z
Authors
Λιβιέρης, Ιωάννης
Πιντέλας, Παναγιώτης
Journal Title
Journal ISSN
Volume Title
Publisher
Abstract
Σε αυτήν την εργασία, αξιολογούμε την απόδοση
μιας νέας κλάσης μεθόδων συζυγών κλίσεων για την εκπαίδευση νευρικών δικτύων. Οι προτεινόμενες μέθοδοι διατηρούν τα πλεονεκτήματα των κλασσικών μεθόδων συζυγών κλίσεων και εκμεταλλεύονται την απουσία των συχνά αναπαποτελεσματικών επανεκκινήσεων. Τα ενθαρρυντικά αριθμητικά αποτελέσματα επαληθεύουν ότι οι προτεινόμενες μέθοδοι παρέχουν γρηγορότερη, σταθερότερη και πιο αξιόπιστη σύγκλιση.
Description
Keywords
Neural networks, Descent spectral conjugate gradient methods, Sufficient descent property, Truncate strategy