login
english version rss feed
Detailed view PhD thesis
Institut National Polytechnique de Grenoble - INPG (22/09/1997), Mirta B. Gordon (Dir.)
Attached file list to this document: 
PDF
these-jmtm.pdf(1.3 MB)
ANNEX
these_torres_presentation.pdf(456.4 KB)
Apprentissage et généralisation par des réseaux de neurones : étude de nouveaux algorithmes constructifs
Torres-Moreno Juan-Manuel1

La classification est l'attribution d'une classe spécifique à un objet donné. Cette attribution a besoin d'un certain degré d'abstraction pour pouvoir extraire des généralités à partir des exemples dont on dispose. Pour une machine, la classification de visages, de données médicales, de formes, sont toutes des tâches assez difficiles. Par exemple, dans le cas de la reconnaissance de caractères manuscrits, il est difficile d'énoncer une description générale qui tienne compte de toutes les variations particulières de chaque caractère. Une autre approche qui peut être utilisée pour cette tâche est celle de l'apprentissage. Ainsi, le critère pour décider si une image correspond ou non à une lettre 'A' consiste à comparer si cette image est (suffisamment similaire} à des 'a' vus auparavant. De ce point de vue, on ne calcule pas la classification de caractères : elle doit être apprise à partir d'exemples. Ces dernières années, de nouvelles techniques neuronales d'apprentissage ont été développées. Cet apprentissage avec des réseaux de neurones se fait actuellement en suivant deux approches : certains algorithmes comme la Rétropropagation du Gradient ont besoin d'introduire a priori le nombre et la connectivité des unités cachées et déterminer les poids des connexions par minimisation d'un coût. Le réseau ainsi obtenu est éventuellement élagué. Avec une approche constructive on apprend en même temps le nombre d'unités et les poids, dans le cadre d'une architecture fixée, commençant généralement avec une seule unité. Le but de cette thèse est de présenter de nouvelles heuristiques pour générer, d'une manière constructive, des réseaux de neurones pour la classification. Elles permettent de générer des réseaux à une seule couche cachée complètement connectée aux unités d'entrée, et un neurone de sortie connecté aux unités cachées. Les neurones cachés et de sortie sont des unités binaires, pouvant faire soit des séparations linéaires, soit des séparations sphériques. Ces heuristiques sont couplées avec des algorithmes d'apprentissage pour le perceptron, Minimerror-L pour les séparations linéaires et Minimerror-S pour les séparations sphériques. Trois nouveaux algorithmes constructifs, qui différent suivant le type de neurones cachés et aussi suivant la définition des cibles que ceux-ci doivent apprendre on été développés. Pendant le processus d'apprentissage, des neurones cachés entraînés pour apprendre ces cibles vont diminuer le nombre d'erreurs de classification du neurone de sortie. Les réseaux ainsi bâtis ont généralement moins de paramètres (poids) et généralisent mieux que les réseaux entraînés avec d'autres algorithmes.
1:  LIA - Laboratoire Informatique d'Avignon
Apprentissage – Classification – Généralisation – Méthodes constructives – Perceptrons multicouches – Réseaux de Neurones
http://lia.univ-avignon.fr/fileadmin/documents/Users/Intranet/chercheurs/torres/downloads/these_torres.pdf

Machine learning and generalization by Neural Networks: new constructive algorithms
In my PhD Thesis ,three constructive algorithms were developed. These algorithms vary depending on the type of hidden neurons and also from the definition of targets that they must learn. The learning process adds hidden neurons trained to learn targets. These neurons will decrease the number of misclassifications of the output neuron. Our networks have less parameters (weights) and will better generalize than networks trained with other algorithms.
Learning – Classification – Generalization – Constructive algorithms – Perceptrons – Neural Networks

all articles on CCSd database...
all articles on CCSd database...
all articles on CCSd database...
all articles on CCSd database...
all articles on CCSd database...