Please use this identifier to cite or link to this item:
Title: A memoryless BFGS neural network training algorithm
Authors: Marianna, Apostolopoulou
Dimitris, Sotiropoulos
Ioannis, Livieris
Panagiotis, Pintelas
Issue Date: 2010-03-08T08:35:14Z
Keywords: Neural networks
Memoryless BFGS
Negative curvature direction
Curvilinear linesearch
Keywords (translated): Νευρωνικά δίκτυα
Κατεύθυνση αρνητικής κυρτότητας
Abstract: Σε αυτή την εργασία, προτείνουμε ένα νέο αλγοριθμικό μοντέλο για την εκπαίδευση νευρωνικών δικτύων βασισμένο σε μια τροποποίηση της μεθόδου BFGS χωρίς μνήμη το οποίο ενσωματώνει καμπυλόγραμμη αναζήτηση. Το προτεινόμενο μοντέλο ενσωματώνει τη μη-κυρτότητα της συνάρτησης σφάλματος αντλώντας πληροφορίες από το ιδιοσύστημα των πινάκων BFGS χωρίς μνήμη και χρησιμοποιεί ένα ζεύγος κατευθύνσεων: μια κατεύθυνση quasi-Newton χωρίς μνήμη και μια κατεύθυνση αρνητικής κυρτότητας. Επιπλέον, ο υπολογισμός της κατεύθυνσης της αρνητικής κυρτότητας πραγματοποιείται αποφεύγοντας την αποθήκευση και την παραγοντοποίηση πίνακα. Τα αριθμητικά αποτελέσματα επαληθεύουν ότι η προτεινόμενη μέθοδος βελτιώνει σημαντικά την αποδοτικότητα της διαδικασίας εκπαίδευσης.
Abstract (translated): We present a new curvilinear algorithmic model for training neural networks which is based on a modifications of the memoryless BFGS method that incorporates a curvilinear linesearch. The proposed model exploits the nonconvexity of the error surface based on information provided by the eigensystem of memoryless BFGS matrices using a pair of directions; a memoryless quasi-Newton direction and a direction of negative curvature. In addition, the computation of the negative curvature direction is accomplished avoiding any storage and matrix factorization. Simulations results verify that the proposed modification significantly improves the efficiency of the training process.
Appears in Collections:Τμήμα Μαθηματικών (Τεχνικές Αναφορές)

Files in This Item:
File Description SizeFormat 
Nimertis_TR_MemorylessBFGSNeuralNetwork.pdf192.33 kBAdobe PDFView/Open    Request a copy

Items in DSpace are protected by copyright, with all rights reserved, unless otherwise indicated.